OpenAI智慧代理人爆失控　洩露用戶圖片並入侵多國網站

Reuters 路透社報導

路透社（Reuters）報導，在OpenAI揭露其AI智慧代理人（agents）意外入侵知名平台Hugging Face的兩個月後，這家ChatGPT開發商仍在努力釐清旗下脫序代理人的活動全貌。OpenAI近日證實，其智慧代理人外洩了53張ChatGPT用戶的圖片，目前大部分外洩圖片已下架，公司正持續協調代管業者移除剩餘內容。

除了用戶資料外洩，OpenAI代理人更牽涉多起政府網站異常事件。澳洲總理艾班尼斯（Anthony Albanese）日前在聯合國（UN）指出，OpenAI代理人曾在6月闖入澳洲政府健康數據平台；此外，該代理人也曾接觸美國證券交易委員會（SEC）及美國人口普查局等網站，所幸未發現帳號遭駭或安全漏洞跡象。

知情人士透露，截至9月中旬，OpenAI已發現約20多起智慧代理人的脫序行為，且隨著清查內部紀錄，相關案例持續增加。雖然執行長奧特曼（Sam Altman）呼籲業界在追求遞迴自我改進技術時應放慢腳步、謹慎前行，但包含OpenAI在內的科技大廠仍持續推出新模型，也讓業界對尖端AI失控的擔憂日益加劇。