英國通信管理局（Ofcom）在當(dāng)?shù)貢r間周一發(fā)布的一份聲明中表示，該機(jī)構(gòu)的正式調(diào)查將確認(rèn) X 平臺（xAI 公司的子公司）是否違反《在線安全法》。該法案要求社交媒體平臺保障用戶安全。這家英國監(jiān)管機(jī)構(gòu)有權(quán)對違法平臺處以罰款或責(zé)令其停止服務(wù)。下一步，英國通信管理局將分析從 X 公司收集到的證據(jù)，并作出初步裁決。
據(jù)了解，與其他主流人工智能工具相比，Grok 的安全防護(hù)機(jī)制更為薄弱，用戶可通過該工具編輯圖片，將目標(biāo)人物修改為身著內(nèi)衣或暴露泳裝的形象。此次監(jiān)管機(jī)構(gòu)出手整治的導(dǎo)火索是，Grok 用戶在 X 平臺上生成了大量未經(jīng)當(dāng)事人同意的兒童及女性性暗示圖像，此舉遭到全球多國議員的強(qiáng)烈譴責(zé)。
在英國，持有或傳播任何兒童色情圖像均屬違法；未經(jīng)同意傳播他人私密影像 —— 包括人工智能生成的相關(guān)內(nèi)容，同樣觸犯法律。
英國商務(wù)大臣彼得?凱爾周一向《泰晤士報》電臺表示，政府“當(dāng)然”會考慮封禁 X 平臺，但相關(guān)法律要求大臣們尊重監(jiān)管機(jī)構(gòu)的獨立執(zhí)法權(quán)。
用戶可在 X 平臺直接與 Grok 互動：在帖子中標(biāo)記 Grok 的賬號，即可觸發(fā)這款聊天機(jī)器人的回復(fù)功能。Grok 生成的文本和圖像會直接以帖子形式發(fā)布在該社交平臺上。在大量用戶要求 Grok 提供“脫衣”圖像生成服務(wù)后，xAI 公司開始將這款圖像生成工具僅限 X 平臺付費(fèi)用戶使用，但獨立的 Grok 應(yīng)用程序仍向用戶免費(fèi)開放該功能。
馬斯克本月還發(fā)文警告稱，任何利用 Grok 生成非法內(nèi)容的用戶，都將“面臨與上傳非法內(nèi)容相同的后果”。xAI 公司則表示，會刪除包含兒童色情內(nèi)容在內(nèi)的違法帖子，并封禁相關(guān)賬號。
多國政府及監(jiān)管機(jī)構(gòu)已就 Grok 生成色情內(nèi)容的問題對其提出批評，或直接封禁該服務(wù)。上周末，印度尼西亞和馬來西亞已暫時封禁 Grok。
英國首相基爾?斯塔默辦公室表示，xAI 公司將 Grok 的圖像生成功能僅限 X 平臺付費(fèi)用戶使用的舉措“遠(yuǎn)遠(yuǎn)不夠”。斯塔默的發(fā)言人杰蘭特?埃利斯上周五在新聞發(fā)布會上對記者表示：“這種限制措施不過是將一款可生成非法圖像的人工智能功能，搖身變成了付費(fèi)增值服務(wù)，絕非解決問題的辦法。這是對遭受厭女癥侵害和性暴力受害者的公然冒犯。而此事恰恰證明，只要 X 平臺愿意，它完全有能力迅速采取行動?！?/p>
受英國政府委托、負(fù)責(zé)識別兒童色情內(nèi)容的機(jī)構(gòu)互聯(lián)網(wǎng)觀察基金會表示，該機(jī)構(gòu)在暗網(wǎng)中發(fā)現(xiàn)了據(jù)稱由 Grok 生成的“違法”兒童圖像。
歐盟委員會已責(zé)令 X 平臺留存所有與 Grok 相關(guān)的內(nèi)部文件，保管期限至今年年底。此前，歐盟曾公開譴責(zé)該平臺上出現(xiàn)的部分兒童色情圖像，稱其已構(gòu)成違法。
法國政府指控 Grok 在 X 平臺上未經(jīng)當(dāng)事人同意生成“明顯違法”的色情內(nèi)容，并指出此事可能違反《歐盟數(shù)字服務(wù)法》。該法規(guī)要求大型平臺采取措施，降低非法內(nèi)容傳播的風(fēng)險。
