Grok產出深偽不雅圖 印尼暫時封鎖開全球第一槍

印尼憂AI產生深僞色情圖，暫時封鎖Grok服務。（路透資料照片）

印尼通訊與數位部表示，基於對人工智慧（AI）生成色情內容的疑慮，印尼宣佈暫時封鎖馬斯克（Elon Musk）旗下AI聊天機器人Grok的服務。不過，截至10日晚間，Grok的X帳號仍然活躍並回應包括印尼語在內的查詢。

中央社以引述法新社報導，Grok先前因圖片生成功能允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。

印尼成爲全球首個全面封鎖Grok的國家。相較之下，爭議爆發後，其他地區僅限付費訂閱者使用Grok。

印尼通訊與數位部長穆迪雅（Meutya Hafid）發表聲明指出：「爲了保護婦女、兒童以及大衆免於人工智慧技術生成虛假色情內容的風險，政府…已暫時封鎖Grok應用程式的存取權。」

她表示，「政府認爲，未經同意的深僞（deepfake）行爲嚴重侵犯人權、尊嚴，以及公民的數位空間安全。」

印尼通訊與數位部已傳喚社羣媒體平臺X的代表要求說明。開發Grok的馬斯克旗下新創公司xAI，並未立即迴應置評請求。

歐洲官員及科技倡議人士批評，只將Grok功能限縮於付費用戶，根本無法解決涉及性露骨深僞內容的社會疑慮。

馬斯克上週迴應一則有關不雅影像的貼文表示，任何利用Grok製作非法內容的人，「將承擔與上傳非法內容者同等的法律後果」。