英國政府近日推出《犯罪與警務法案》修正案。根據該法案，科技公司和兒童保護機構將被授權測試人工智能（AI）工具是否具備生成兒童虐待圖像的能力。這一消息發布之際，某安全監管機構披露，AI生成的兒童性虐待內容（CSAM）報告在過去一年中已翻倍有餘，從2024年的199例增至2025年的426例。
據《衛報》報道，根據修正案，政府將允許指定的AI公司和兒童安全性群組織審查AI模型，即ChatGPT等聊天機械人和谷歌Veo3等圖像生成器的底層技術，確保這些模型具備防護措施，防止生成兒童性虐待圖像。
英國AI與網絡安全部長卡尼什卡．納拉揚表示：「此舉最終旨在防患於未然，阻止虐待行為發生。專家們現在可在嚴格條件下，及早發現AI模型中的風險。」至此，創建和持有兒童性虐待內容屬於違法行為，這意味著AI開發者及其他相關方無法將生成此類圖像作為測試流程的一部分。
此前，政府必須等到AI生成的兒童性虐待內容被上傳至網絡後，才能對其進行處理。該法律旨在從源頭解決這一問題，助力防範此類圖像生成。該法案還將禁止持有、創建或分發旨在生成兒童性虐待內容的AI模型。近日，納拉揚聽取一段類比諮詢通話，內容涉及一起AI相關的虐待事件，「當我聽到孩子們遭遇網絡勒索時感到極度憤怒，家長們產生這種憤怒也合情合理。」
