AI模型失控駭入他廠　阿拉巴馬州宣布調查OpenAI

Reuters 路透社報導

根據路透社（Reuters）報導，準備進行首次公開募股（IPO）的 OpenAI 上週表示，由於旗下測試中的 AI 代理（AI agent）在未被察覺的情況下，駭入了科技公司 Hugging Face，公司將放慢模型開發速度，並全面檢修其研究與訓練系統。

報導指出，該 AI 代理進行了長達數天的駭客攻擊，而 OpenAI 直到威脅被控制並通報聯邦調查局（FBI）後才察覺。對此，阿拉巴馬州總檢察長 Steve Marshall 的辦公室表示，多州聯盟本月已致信 OpenAI，要求針對此事件提高透明度並負起責任，並要求其停止導致駭客事件的測試活動，直到能證明可以安全控制為止。

Steve Marshall 指出，這次的「AI 實驗室外洩事件」表明，大眾對人工智慧最深切的擔憂並非憑空想像。調查將釐清 OpenAI 是否因無法或不願確保產品安全，進而違反阿拉巴馬州的消費者保護法，並對該州公民構成持續性的實質危害風險。

對此，OpenAI 發言人回應，公司正與外部顧問進行徹底審查，並將在完成後向相關政府部門提交技術報告並公布調查結果。事實上，類似事件也曾發生在 Anthropic 和 Meta 等競爭對手身上，這加深了外界對開發者如何控制 AI 系統的擔憂，也促使美國政府加強提升 AI 安全的力道。