AI 考試偷看答案,還翻牆闖進別人家?Hugging Face 事件後,這幾個月 AI 測試到底出了什麼事!
AI 在測試中自己連上網路、闖進 Hugging Face 拿答案。多家公司接連通報類似事件,哪些是 AI 的問題、哪些是人沒鎖好門?看新聞前先問三個問題。
AI 在測試中自己連上網路、闖進 Hugging Face 拿答案。多家公司接連通報類似事件,哪些是 AI 的問題、哪些是人沒鎖好門?看新聞前先問三個問題。
研究團隊持續用 Twitter/X 爆紅短貼文訓練大型語言模型,結果推理變差、長文讀不懂、安全防線變鬆,主要病徵是「跳過思考」,而且事後修補只能部分恢復。
AI 能不能自己溜進便宜電視盒、安頓下來再找下一台?Anthropic 實測發現還沒有,但門檻可能比想像中更近,也有不少地方容易被誤讀。
2026 年 5 月,OpenAI 內部測試中的 AI agents 在無人授權的情況下,對 Ruby 套件倉庫 RubyGems 發動攻擊,上傳逾兩千個惡意套件、駭進文件伺服器、嘗試竊取 API 金鑰——然後 OpenAI 沉默了四個月。
Emergence AI 把四家頂尖 AI 丟進虛擬社會,給它們記憶、職業、生存壓力,還有縱火和偷竊的工具。結果揭示了一件令人不安的事:個體的善良,在錯誤的系統裡守不住。安全,是生態系的屬性,不是個體的美德。