每日罚款$82.5万！苹果谷歌等八大平台被指防范不力，儿童性剥削内容频现（图）

根据澳洲网络监管机构发布的最新透明度报告，包括Apple、Google、Meta、Microsoft、Discord、Skype、Snapchat和WhatsApp在内的八家主流科技平台，在检测和预防儿童性剥削及虐待方面表现欠佳，未能履行其应尽职责。

澳洲在线监管机构已要求四家人工智能“伴侣”提供商解释，他们如何保护儿童免受色情对话和自残讨论的影响。图源：Richard Drury/Getty Images

目前，澳洲电子安全委员会（eSafety）已要求这些平台作出详细说明，解释其在应对真实及AI生成的有害素材、诱导犯罪、性勒索以及直播虐待方面，究竟采取了哪些具体措施。

eSafety专员 Julie Inman Grant 呼吁行业亟待解决关键的安全漏洞。她指出，目前各大平台在检测性勒索的语言分析方面明显不足，且对新出现的素材以及直播中的剥削行为检测不力，安全防范措施可谓漏洞百出。

Inman Grant 强调，这些公司拥有雄厚的资源和技术能力，理应让服务变得更安全。在过去十年中，监管部门曾多次就安全缺陷与这些平台进行交涉，并在之前的报告中反复强调过这些问题，但现状依然令人担忧。

据悉，各大应用程序已被要求在今年3月和8月再次提交报告，eSafety随后将陆续公布这些报告的详细内容。

澳洲电子安全委员会（eSafety）专员Julie Inman Grant。图源：TheWest

Inman Grant 对某些公司仍未采取有效措施检测并删除新素材表示“倍感失望”。她特别指出，流行的视频通话服务至今仍未开发出有效工具来探测直播中的儿童性虐待行为，导致此类恶行在监管盲区中持续发生。

她进一步透露，eSafety情报与调查部门已向部分公司提供了性勒索的语言指标、常见脚本及常用虚假图像等关键情报。令人始料未及的是，这些防范手段尚未被平台用于探测针对澳洲年轻男性的有组织犯罪。

尽管现状严峻，但 Inman Grant 认为市场也出现了一些积极迹象，例如平台对举报内容的响应速度有所提升，对已知虐待素材的再次检测能力也有所改善。她表示，这些渐进式的改进证明，平台在保护社会弱势群体方面完全有潜力做得更好。

澳洲联合国儿童基金会（UNICEF Australia）数字政策主管 John Livingstone 则表示，该报告凸显了设立“数字注意义务（Digital Duty of Care）”的迫切性。随着联邦政府推进16岁以下社交媒体禁令，相关立法工作也已提上日程。

Livingstone 批评称，目前监管和预防在线儿童性虐待的方法过于碎片化，各平台的努力显得零散而缺乏一致性。他呼吁通过建立强大的“防护栏”和推行“安全源于设计（safety-by-design）”的方法，从源头上杜绝滥用行为。

针对深度伪造（deepfakes）和AI内容的激增，Livingstone 补充道，生成式AI（GenAI）虽然带来了新风险，但若能负责任地使用，也可以成为解决方案的一部分，帮助大规模检测并删除有害内容。

根据澳洲现行法规，如果相关平台未能遵守强制性透明度通知，将面临每天最高 825,000 澳币的巨额罚款。