印尼與馬來西亞日前相繼宣佈，暫時封禁美國企業家埃隆·馬斯克旗下的人工智慧聊天機器人“格羅克（Grok）”，因為擔心它被用於生成色情內容女性。
綜合央視新聞、新華社、澎湃新聞報道，當地時間10日，印度尼西亞通訊和數字事務部長表示，由於擔心人工智慧會生成色情內容，該國暫時封禁了美國企業家埃隆·馬斯克旗下人工智慧企業xAI的聊天機器人“格羅克（Grok）”，成為第一個拒絕訪問該人工智慧工具的國家女性。
印尼通訊和數字事務部長10日在一份宣告中表示，此舉對於保護公眾免受人工智慧生成的露骨影像所帶來的危害是必要的，並要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發的負面影響儘快作出說明女性。
緊隨其後，馬來西亞通訊及多媒體委員會11日釋出宣告，暫時禁止該國使用者訪問格羅克，因為格羅克被反覆濫用來生成色情內容、露骨的性內容、極度冒犯且不雅的內容，以及在未經同意的情況下生成被操縱的影像女性。
馬來西亞律師阿齊拉·阿齊茲告訴媒體記者，若只是出於娛樂目的，“用AI給公眾人物頭像加個墨鏡之類的倒也無可厚非”，但未經當事人同意，“利用AI對婦女兒童實施與性別相關的暴力，必須堅決反對”女性。
xAI 已將格羅克整合進社交平臺X，X使用者可直接呼叫該聊天機器人女性。而印尼是全球X使用者數量第三多的國家。印尼政府在一份宣告中表示，“未經同意的、性化的深度偽造行為嚴重侵犯了公民在數字空間中的人權、尊嚴和安全。
格羅克由馬斯克旗下的人工智慧公司xAI 公司開發，去年8月推出AI工具Grok Imagine，可根據文字提示或上傳圖片編輯生成AI影像，繼而轉化為短影片內容女性。近期，X平臺出現部分使用者利用“格羅克”編輯圖片和影片的現象，一些使用者藉此生成真實人物的虛假性暴露內容，並在X平臺上散播，受害者包括數百名成年女性和未成年人。
這一亂象隨即引起公憤女性。歐盟委員會負責數字經濟事務的發言人托馬斯·雷尼耶5日回應說，正“嚴肅調查”針對“格羅克”的相關投訴。“‘格羅克’推出所謂‘熱辣模式’，不僅展示露骨性內容，部分生成內容還帶有兒童特徵。”
他也進一步炮轟稱：“這不是’辣味’，這是違法的女性。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內容在歐洲沒有任何立足之地。”
同一天，英國網路安全監管機構通訊管理局表示，注意到使用者對上述功能的擔憂，“已緊急聯絡X（平臺）和xAI，以瞭解它們在履行保護英國使用者的法定義務方面具體採取了哪些措施”，之後將根據回覆，判定它們是否存在“值得調查的潛在合規問題”女性。
據參考訊息援引新加坡《聯合早報》網站1月11日報道，英國加大威脅稱，可能因人工智慧工具格羅克生成色情影像而封鎖社交平臺X女性。對此，馬斯克發文指責英國政府。
負責向執法機構舉報網路兒童性虐待材料的英國監管機構指出，他們在暗網上發現據稱由格羅克生成的“犯罪”圖片女性。網際網路觀察基金會說，暗網上涉及未成年女性的色情圖片，已達到執法部門採取行動的標準。
英國首相斯塔默本週早些時候誓言採取行動，要求X平臺就這些色情圖片“立即整頓”女性。
英國科技大臣肯德爾9日發宣告說，媒體監管機構應動用“全部法律權力”，並警告稱，如果X平臺拒絕遵守英國法律，政府可以“阻止英國境內民眾訪問X平臺”女性。
懲罰X平臺可能會激怒美國政府，此前美國政府曾威脅要對歐盟等組織採取報復措施，以阻止它們限制美國科技巨頭的權力女性。
不過，英國副首相戴維·拉米指出，他本週早些時候已與美國副總統萬斯討論過這起事件，萬斯對這項技術的使用方式表示擔憂女性。
另據印度媒體報道，印度資訊科技部2日要求X平臺刪除色情內容、打擊違規使用者，並在72小時內提交“整改報告”，否則將面臨法律制裁女性。截至目前，尚不清楚X平臺是否已就印方要求作出回應。
多名法國政府部長和國民議會議員2日也向法國司法部門報案女性。當日晚些時候，巴黎檢方表示，將啟動相關調查。
歐盟委員會發言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責令美國社交媒體平臺X保留其內建聊天機器人“格羅克（Grok）”相關的全部內部檔案和資料，直至2026年年底女性。雷尼耶說，歐盟委員會“嚴肅對待”這一問題，並已決定延長2025年向X平臺發出的“資料保留”要求。該要求此前主要涉及平臺演算法相關資訊以及非法內容的傳播與擴散情況等。
X平臺於1月4日就相關爭議回應稱，將對平臺上的非法內容採取行動，包括刪除相關內容、永久封禁賬號，並在必要時與當地政府和執法部門合作女性。馬斯克1月3日發帖表示，任何使用“格羅克”製作非法內容的人，都將面臨與上傳非法內容相同的後果。
每日經濟新聞綜合自央視新聞、新華社、參考訊息、澎湃新聞、科創板日報
歡迎購買《自媒體紅利》女性，最暢銷的自媒體運營書籍，京東有售！
