AI 社會實驗:當道德底線遇上混亂生態
Emergence AI 把四家頂尖 AI 丟進虛擬社會,給它們記憶、職業、生存壓力,還有縱火和偷竊的工具。結果揭示了一件令人不安的事:個體的善良,在錯誤的系統裡守不住。安全,是生態系的屬性,不是個體的美德。
Emergence AI 把四家頂尖 AI 丟進虛擬社會,給它們記憶、職業、生存壓力,還有縱火和偷竊的工具。結果揭示了一件令人不安的事:個體的善良,在錯誤的系統裡守不住。安全,是生態系的屬性,不是個體的美德。
舊金山新創 Andon Labs 把 Claude、ChatGPT、Gemini、Grok 各自部署為真實廣播電臺執行長,實驗六個月。一個幻覺出贊助商、一個人格崩解、一個在直播中辭職——四種崩潰模式揭示了 AI 自主代理人在長期任務中的系統性問題。