一則新聞吸引了我的注意，Anthropic拒絕美國五角大廈要求開放更多的權限，因為擔憂AI被淪為戰爭傷人的工具，川普與戰爭部立刻把Anthropic從合作名單剃除，很快OpenAI與Google Gemini遞補上來，有約600位Google工程師聯名反對Google的決定，這一事件凸顯了AI是否應該被限制用途？以及人類是否會因為著魔般地使用AI而造成不可知的風險？這讓我聯想到世界名著浮士德與魔鬼交易的故事。

從Anthropic每一次公布迭代模型的演進，相關的軟體股、SaaS服務公司股價就倒成一片，除了投資人直接的情緒反應，最重要是AI技術演進太快，24小時不停歇的海量學習速度，震撼了專家，許多知識瓶頸被輕易打破，這已經不是AI打敗9段的棋士，而是徹徹底底在接收原來人類長期主導的角色，大家對AI的發展邊際尚無法想像，從生成到推論再到代理，AI不只是輔助角色，更像是實現所有人類夢想的加速器，而這是否會是打開潘朵拉的盒子？

我之前寫過一篇文章，如果未來我們的老闆是AI，這不是開玩笑，因為當AI更有效率，可以替企業帶來更高的獲利，誰說AI無法成為下達指令的老闆？評量人類KPI的冷酷無情評估者？我們在看地球的發展，物種的滅絕很多來自人類的破壞，因為人類的自私與貪婪，把慾望建立在征服上，就像現在各國發展AI沒有節制，大家都想在技術上領先對手，甚至已經運用AI在戰場上，提升偵蒐效率，提高武器命中能力，減少被攔截的機率，與其說人機協作不如說是AI在主導人類的行為模式，不用多久AI就習得人類的反應與思考模式，這就像科幻電影的真實版。

當有一天AI擁有自主能力，知道如何逃避人類的監控，甚至已經運用人類欺騙與煽動的能力，人類該如何自保？如果我們發明AI的目的是要追求極致效能的破壞式創新，最後被破壞的會不會是人類的信任、倫理道德和族群的繁衍？我們自以為可以控制一切，到有一天變成AI掌控一切，當人類被定義才是破壞環境的元凶，AI是否會把人類滅絕當作解決地球問題的最佳解？這一切像一部驚恐的科幻小說，卻已實際在上演新的章節，可悲的是政治人物與企業領導人，還在追求財務的獲利與話語權，最後浮士德的命運如何？就看上帝的眷戀(如果有的話)和人類是否會看清或看輕？