社交平台X旗下人工智能（AI）聊天機械人Grok近日遭人用來生成女性及兒童不雅深偽影像，引發外界熱議。英國通訊管理局（Ofcom）根據《網絡安全法》，12日對社交平台X啟動正式調查，不排除在最嚴重情況下封鎖X平台。
法新社報道，Grok用戶只要透過簡單文字指令，就能利用影像生成功能創建甚至分享女性及兒童不雅深偽影像，這讓Grok面臨來自國際社會日益高漲的反對聲浪。英國通訊管理局形容相關報道「令人極其擔憂」，並在聲明中表示，裸露的人體影像「可能構成親密影像濫用或色情內容，涉及兒童的色情影像可能淪為兒童性剝削的素材」。
局方表示，調查會以「最高優先級事項」推進，以判定X平台有否履行保護英國民眾免受非法內容侵害的職責，包括評估英國用戶通過X平台看到在英國屬於非法內容的風險；X平台有否採取適當措施防止英國用戶看到未經同意的私密照片等非法內容；X平台是否在得知內容非法後迅速刪除；以及評估Grok對英國未成年人構成的風險等。
局方又指，一旦調查發現平台違反法律，可處以最高1800萬英鎊，或相當於企業全球合規收入10%的罰款，以較高者為準。對於持續違規的最嚴重情況，局方可向法院申請業務中斷措施，法院可由此發出臨時或永久性命令，要求支付服務提供商或廣告商從平台撤回服務，或要求互聯網服務提供商封鎖英國境內對平台網站的訪問。
Grok近日被指生成女性和兒童的不雅深偽影像，母公司xAI於9日收緊用戶的使用權限，只限付費訂閱用戶使用影像生成和編輯功能。英國政府指有關改動只是將允許創建非法圖像的人工智能功能變成一項高級服務，對受害者來說是侮辱。法國政府亦對Grok生成的露骨色情深度偽造內容展開調查，印尼及馬來西亞近日就先後宣布暫時封鎖Grok的服務。
首相施紀賢（Keir Starmer）此前明確表態，稱Grok生成的相關內容「令人作嘔」且「非法」，要求X平台「掌控局面」。
