馬斯克AI公司「深偽不雅圖」侵人權！印尼祭出「強硬封鎖令」成全球首例

國際中心／李筱舲報導

基於對人工智慧（AI）生成色情內容的疑慮，印尼政府宣布暫時封鎖馬斯克（Elon Musk）旗下AI公司開發的聊天機器人「Grok」，成為全球首個因深偽（deepfake）風險而全面禁止Grok的國家，為全球AI監管治理開了第一槍。印尼通訊與數位部強調，此決策是為了保護婦女、兒童及社會大眾免於人工智慧技術生成虛假內容造成的潛在威脅。

據外媒報導，Grok近期因其強大的圖片生成功能引發全球譴責。該系統允許用戶透過簡單的指令，便能將女性甚至是兒童的照片轉化為色情影像，儘管此功能僅限於「付費用戶」使用，但歐洲官員及科技倡議人士認為，這樣的作法仍無法解決涉及性露骨深偽內容的社會疑慮。印尼通訊與數位部長穆迪雅（Meutya Hafid）在聲明中明確指出，「未經同意的深偽行為已嚴重侵犯人權與尊嚴」並將其視為一種「數位暴力」，她表示：「為了保護婦女、兒童以及大眾免於人工智慧技術生成虛假色情內容的風險，政府…已暫時封鎖Grok應用程式的存取權」。

目前印尼政府要求在該國運行的數位平台必須證明其擁有足夠的防護機制，以防止違禁內容的產出或傳播。印尼當局也向平台X發出正式傳喚，要求該公司針對Grok目前設定所造成的負面影響進行說明。除了要求合規，Grok必須提出具體的技術減緩措施，以防止未來再次發生濫用情形。據悉，馬斯克上週曾回應一則關於不雅影像的貼文，他表示，利用Grok製作非法內容的用戶「將承擔法律後果」。