之前看過一篇報導，透過AI復刻名人歌聲，例如NHK電視台在2019紅白歌唱大賽，推出「AI美空雲雀」。今年最夯的是生成式AI，舉凡文本、影音、繪圖都可以透過AI產生，所以生成式AI又稱AIGC（AI Generated Content），最近躍上版面的是ChatGPT，去年在美國也發生使用「Midjourney」軟體獲得美術冠軍，引起正反兩方攻伐！再到近期Elon Musk聯合多位專家公開呼籲暫停研發比GPT-4更強大的AI系統，這背後代表AI技術失控的恐慌？我們是否已經能理解或確保我們正在進行的道路是正確的？

Elon Musk等人所提出的公開呼籲，從FLI(Future of Life Institute)連結看到的內容，其擔憂包括：我們是否應該自動化所有的工作？我們應該冒失去對文明控制的風險嗎？在公開信開宗明義提到，先進人工智慧可能代表地球生命史上的深刻變化，應該以相應的關懷和資源進行規劃和管理。不幸的是，這種級別的規劃和管理並沒有發生。

也因為這次大咖的公開呼籲，讓我去認識FLI這個組織，其專注在人類發展四大風險，分別是AI、生技、核能、氣候變遷。對於AI的發展，FLI認為可能會遇到「智慧爆炸」，很快就會將人類拋在後面。FLI提到危險不是來自機器人本身，而是來自智慧本身，它只需要互聯網連接就可以對我們造成無法估量的傷害。

這讓我想到霍金(Hawking)過世前，曾提到AI可能讓人類滅絕！其帶來的威脅遠超過外星人的威脅！霍金認為人類發展的技術可能摧毀了地球，但人類還沒有發展出逃離地球的能力。AI發展可能演化成和人類意志相衝突，AI一旦脫離人類束縛，以不斷加速的狀態重新設計自身，人類由於受到生物進化的限制，將無法與之競爭進而被取代。霍金提示的威脅就像核武器，AI的發展雖然看似非常樂觀，但是我們欠缺的是對AI的管理能力。

在做了這些研究後，我問孩子，你能想像未來甚麼都是合成的世界，從文字、影音、照片到語音，你真假難辨？甚至當你的個人隱私都被AI鎖定，我們擔憂的風險不只是駭客，還包括你無法預知的AI(是神還是魔)？6個月的沉澱期是否可以讓人類理出頭緒？其他國家或是企業是否願意遵循管控？這些都有很大變數或風險。我最擔心是失控的管理，可能是極權國家、可能是利潤極大化的企業，把人類的掌控權交給未知的技術，在Elon Musk與重量級科學家提出呼籲之後，我們對於AI技術的發展是福是禍？真的要保持戒慎恐懼。