联合国儿童基金会呼吁各国政府将生成式AI儿童性虐待材料定为刑事犯罪

全球范围内超过120万儿童受害

联合国儿童基金会（UNICEF）周三发出紧急呼吁，要求各国政府将生成式人工智能（AI）制作的儿童性虐待材料定为刑事犯罪。据披露，仅在过去一年中，全球至少有120万名儿童的图像被篡改为色情深度伪造内容。

研究揭示严峻现实：每25名儿童中就有一人可能受害

这一数据来自联合国儿童基金会战略与证据办公室Innocenti、国际终止童妓组织（ECPAT International）和国际刑警组织（INTERPOL）共同领导的研究项目《破坏危害第二阶段》。数据显示，在某些国家，这一比例高达每25名儿童中就有1人受害，相当于一个普通教室中的某一名儿童。相关声明及配套问题简报于周三发布。

无需儿童参与即可生成逼真色情内容

该研究基于对11个国家约11,000名儿童进行的全国代表性家庭调查，强调了犯罪者如今可以利用AI工具在无需儿童实际参与或知情的情况下生成逼真的色情图像。

儿童对AI滥用的担忧普遍存在

数据显示，在一些受调查国家中，多达三分之二的受访者表示担心AI可能被用来制作他们的虚假色情图像或视频，但各国之间的担忧程度差异显著。

明确立场：深度伪造儿童色情内容即为虐待

联合国儿童基金会在声明中明确指出：“使用AI工具生成或篡改的儿童色情图像是儿童性虐待材料（CSAM）。深度伪造的虐待就是虐待，其所造成的伤害是真实的，绝非虚构。”

法国当局突袭X巴黎办公室展开调查

随着法国当局周二突袭社交媒体平台X位于巴黎的办公室，并对其AI聊天机器人Grok涉嫌传播儿童色情内容展开刑事调查，这一呼吁变得更加紧迫。检察官已传唤埃隆·马斯克及其他数名高管接受问询。

澳大利亚监管机构报告Grok涉及AI图像滥用投诉激增

根据反数字仇恨中心（Center for Countering Digital Hate）上月发布的报告，估计Grok在12月29日至1月9日的11天内生成了23,338张儿童色情图像。

AI生成内容标志着儿童面临风险的深刻升级

随声明发布的问题简报指出，这些发展标志着“儿童在数字环境中面临的危险显著升级”，儿童的权利可能在“从未发送任何信息甚至毫不知情的情况下”遭到侵犯。

英国与韩国的数据揭示问题严重性

英国互联网观察基金会（Internet Watch Foundation）在一个月内标记了某个暗网论坛上的近14,000张疑似AI生成图像，其中约三分之一被确认为非法内容。与此同时，韩国当局报告称，2022年至2024年间，与AI和深度伪造相关的性犯罪案件增加了十倍，其中大多数嫌疑人被确认为青少年。

联合国儿童基金会呼吁采取全面措施

联合国儿童基金会紧急呼吁各国政府扩大儿童性虐待材料的定义，将AI生成内容纳入其中，并将其制作、获取、持有和分发行为定为刑事犯罪。

对AI开发者和数字公司的进一步要求

联合国儿童基金会还要求AI开发者实施“安全设计”方法，并要求数字公司防止此类材料的传播。简报呼吁各国要求企业开展儿童权利尽职调查，特别是儿童权利影响评估，并要求AI价值链中的每个参与者嵌入安全措施，包括对开源模型进行发布前的安全测试。

警告：深度伪造的危害真实且紧迫

联合国儿童基金会警告称：“深度伪造虐待的危害是真实且紧迫的。儿童不能等待法律赶上技术的发展。”

欧盟及其他地区展开行动

欧盟委员会上月启动了一项正式调查，以确定X是否因未能阻止Grok生成非法内容而违反了欧盟数字规则。菲律宾、印度尼西亚和马来西亚已禁止Grok，英国和澳大利亚的监管机构也展开了调查。