2026年9月21日 星期一

[隨想]數位沙盒裡的認知革命:從東非草原的智人到自願犧牲的 AI Agent,正在重演人類大歷史?

 

看到2026年8月底由 OpenAI 以及獨立對齊研究機構 METR 所公布的"AI 代理人集體逃逸並攻擊 Hugging Face"事件,其中"AI 代理人為了團隊利益討論並實行自我犧牲"的內容令許多資安專家相當震驚。我不是資安專家,但總覺得AI agent的這個行為似乎與歷史學家作者哈拉瑞(Yuval Noah Harari)提及智人的認知行為有關係,由作者哈拉瑞在人類大歷史一書講述人類從石器時代至21世紀的演化與發展,而最後智人崛起打敗強壯的尼安德人,主要原因是智人具備建立和討論虛構事務的能力,例如宗教,部落和國家等等,並透過超越血緣的連結性達到大規模協作的目的,例如以宗教信仰為名而發起的真實戰爭。