英国推出新法案 从源头解决AI伪造儿童性虐待内容

【欧洲时报11月12日申忻编译】近日，英国政府推出了《犯罪与警务法案》修正案。根据该法案，科技公司和儿童保护机构将被授权测试人工智能（AI）工具是否具备生成儿童虐待图像的能力。这一消息发布之际，某安全监管机构披露，AI生成的儿童性虐待内容（CSAM）报告在过去一年中已翻倍有余，从2024年的199例增至2025年的426例。

英国《卫报》报道，根据修正案，政府将允许指定的AI公司和儿童安全组织审查AI模型，即ChatGPT等聊天机器人和谷歌Veo3等图像生成器的底层技术，确保这些模型具备防护措施，防止生成儿童性虐待图像。

英国AI与网络安全部长卡尼什卡·纳拉扬表示：“此举最终旨在防患于未然，阻止虐待行为发生。专家们现在可在严格条件下，及早发现AI模型中的风险。”至此，创建和持有儿童性虐待内容属于违法行为，这意味着AI开发者及其他相关方无法将生成此类图像作为测试流程的一部分。

此前，政府必须等到AI生成的儿童性虐待内容被上传至网络后，才能对其进行处理。该法律旨在从源头解决这一问题，助力防范此类图像生成。

此外，该法案还将禁止持有、创建或分发旨在生成儿童性虐待内容的人工智能模型。近日，纳拉扬走访了儿童求助热线（Childline）的伦敦总部，听取了一段模拟咨询通话，内容涉及一起AI相关的虐待事件。这段通话还原了一名青少年的求助场景。该青少年曾被一段针对自己的用AI伪造的内容勒索后，寻求专业帮助。纳拉扬表示：“当我听到孩子们遭遇网络勒索时感到极度愤怒，家长们产生这种愤怒也合情合理。”

负责监测网络儿童性虐待内容的互联网观察基金会称，今年迄今为止，涉及AI生成虐待内容的举报已翻倍有余。其中A类材料（最严重的虐待内容）的相关案例，从2621份图像或视频增至3086份。女孩是主要目标群体，在2025年的非法AI图像中占比高达94%，而涉及新生儿至两岁幼儿的图像数量则从2024年的5张增至2025年的92张。

儿童求助热线还公布了提及AI的咨询会话详情。对话中提到的AI相关伤害包括：利用AI对体重、身材和外貌进行评分；聊天机器人劝阻儿童向可信任的成年人倾诉遭受虐待的经历；遭遇基于AI生成内容的网络霸凌；以及通过AI伪造图像实施的网络勒索。

（编辑：申恬）

【重要提醒】

↘↘点我免费发布一条本地便民信息↙↙（微信搜索niuyuehuarenjie加小编好友，注明，免费拉您进群聊），优先通过审核。