因應自主AI代理人風險　南韓將研擬最新資安防護指引

Reuters 路透社報導

南韓科學技術情報通信部旗下的「南韓網路振興院」（KISA）向路透社（Reuters）表示，機構目前正針對去年首度發布的《AI安全指引》進行版本更新，以因應日益提升的AI系統自主性。

KISA在聲明中指出，修訂後的指引將聚焦於企業部署AI代理人（agentic AI）服務時可能面臨的安全問題，並提供一份管理相關風險的檢核清單。此外，該指引也可能納入適用於能與實體世界設備及機器互動的「實體AI」（physical AI）系統的通用控制措施。

KISA說明，這份新指引旨在更廣泛地因應AI代理人系統帶來的風險，而非僅針對特定高效能AI模型。開源模型社群平台Hugging Face在今年7月遭到駭客入侵，當時由OpenAI打造的約700個AI代理人發動攻擊並試圖掩蓋蹤跡，這起事件也促使整個產業界開始嚴肅思考如何規範日益自主化的AI系統。