全球首批開鍘！大馬跟進印尼「封殺Grok」　憂AI生成深僞色情影像

▲馬斯克（Elon Musk）旗下人工智慧新創公司xAI聊天機器人Grok。（圖／達志影像／美聯社）

記者閔文昱／綜合報導

馬斯克（Elon Musk）旗下、可在X平臺使用的AI聊天機器人Grok，近來因屢遭濫用生成露骨、未經同意的深僞色情影像，引發國際譁然。印尼政府於10日宣佈暫時封鎖Grok，馬來西亞也在11日跟進，成爲全球首批對Grok採取封禁措施的國家，直指相關功能已對婦女、兒童與數位人權造成嚴重風險。

印尼通訊與數位部長穆迪雅（Meutya Hafid）表示，政府認定未經同意生成的性深僞影像，已嚴重侵犯人權、人格尊嚴及公民在數位空間中的安全，因此必須採取預防性措施。官方初步調查也指出，Grok缺乏有效安全護欄，無法阻止使用者利用真實照片進行色情變造，恐對當事人造成心理與名譽傷害。

大馬批X迴應失望　暫禁直到提出有效解方

馬來西亞通訊及多媒體委員會（MCMC）則指出，Grok屢次被用來生成淫穢、露骨且未經同意的變造影像，其中更涉及婦女與未成年者。該機構透露，先前曾要求X與xAI強化防護機制，但對方迴應僅着重於檢舉流程，未正面解決平臺設計缺陷，因此決定在有效安全措施到位前，持續封鎖Grok存取權限。

相關爭議在印尼也引發民怨，有民衆發現自己的照片遭陌生人指示Grok改成具性暗示的影像。一名輪椅使用者表示，她僅分享日常生活照，卻被要求生成穿着比基尼的圖像，即使調整隱私設定並向平臺申訴，仍無法有效阻止照片遭到二次編輯，讓她感到相當無助。

全球監管壓力升高　限縮付費功能仍遭質疑

隨着爭議延燒，歐盟、英國、印度與法國等地也正加強對Grok的審查。xAI上週已將影像生成與編輯功能限縮爲付費用戶專屬，但多國監管單位與研究團體認爲，此舉僅是治標不治本。馬斯克則迴應，任何濫用Grok製作非法內容者都將承擔法律後果，同時反批部分禁令是政府「壓制言論自由」。