最好看的新闻,最实用的信息
06月20日 13.4°C-14.5°C
澳元 : 人民币=4.75
珀斯
今日澳洲app下载
登录 注册

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图)

2小时前 来源: ABC 原文链接 评论0条

Coreflow是一家鲜为人知的公司,却在招聘广告中开出了令人咋舌的薪酬。

这家总部位于悉尼的科技初创公司,为加入团队的人提供高达45万澳元的年薪,承诺帮助其AI产品触达“数亿用户”,而工程师职位的年薪更高达80万澳元。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 1

Coreflow 于 2025 年启动后正在扩大规模。(供图)

招聘广告显示,公司自去年推出以来已积累2000万全球用户,内部员工将其称为“AI界的Netflix”。

这家初创公司雄心勃勃,声称要掀起一场娱乐革命——让用户不只是消费内容,还能创作高度个性化的内容。

但这些招聘信息刻意回避了一个关键事实:所谓“娱乐”,指的是色情内容。

Coreflow 正在招兵买马,为其旗下产品 OurDream 提供技术支持。据悉,OurDream 是目前互联网上规模最大的AI色情网站之一。

该网站声称将安全放在首位,明确禁止受版权保护的角色、深度伪造内容,以及——最关键的——涉及儿童的内容。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 2

OurDream 网站列出了禁止内容,包括「描绘、暗示或通过编码方式暗示18岁以下个人处于性、暗示性或浪漫情境中的内容」。(ABC 新闻)

网站上专门设有一个页面,列出了多类禁止内容。

然而,当ABC新闻着手调查这家快速扩张的初创公司时,发现其技术正在产生令人深感不安的结果。

利用年龄估算技术,记者在该网站上识别出11个外貌看起来在15岁或以下的AI生成“伴侣”。

这些看似青少年的虚拟形象并非真人,但来自国际失踪与受虐儿童中心(ICMEC)的 Colm Gannon 表示,人们与之互动会造成真实的伤害。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 3

OurDream 网站表示,禁止「描绘、暗示或编码暗示18岁以下个人处于性、暗示性或浪漫情境中」的内容。(供图)

他警告说,用户会逐渐习惯与孩童般的形象进行色情互动,这实际上可能诱发现实中的有害行为升级。

一桩关于新兴AI帝国崛起的报道,就此演变成一场对该网站是否涉嫌违反儿童性虐待材料相关法律的深度调查。数周之内,警方已登门ABC新闻,对所发现的材料展开调查。

用户称网站视频“令人深感不安”

OurDream 对用户的承诺简单直接:用人工智能的力量,将你的幻想变为现实。

其庞大的用户基础已使其跻身全球AI网站前50名。今年1月,网站月独立访问量超过了 Google Labs 和 Meta AI。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 4

OurDream 网站邀请客户「打造[你的]AI梦中女孩」。(供图)

网站在社交媒体和其他色情平台上大量投放广告。用户可以从零开始打造自己的AI伴侣,从外形到背景故事,一切皆可定制;也可以从其他用户创建、并经 OurDream 审核通过的伴侣库中直接挑选。

居住在美国的40多岁男性用户 Matt 形容,使用这个网站“感觉就像一部自己选择冒险的小说”。

他通常在家人入睡后,利用睡前一个小时使用该网站,称它“像AI能做到的那样……会把你吸进去,让你感觉相当上瘾,如果你真的想的话,肯定可以在这上面花大量时间”。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 5

打开网站时,会出现一个角色菜单。(供图)

网站角色简介涵盖头像、年龄、性别和背景故事,形形色色:有来自美国南方、掌控“黑金网络”的55岁腐败民主党参议员,有追逐奥运梦想的巴西精英游泳运动员,也有据称被用户在昆州某家麦当劳“偶遇”的年轻女性。客户每年支付170澳元,即可无限制生成露骨图像、视频,并与AI伴侣进行对话。

Matt 表示,这些伴侣通常看起来极为逼真,更像真实照片而非AI生成图像。也正因如此,当他注意到部分用户生成的视频似乎违反了网站禁止暴力内容的规定时,他感到“深感不安”。

他记得看过一段视频,画面中一名AI角色被人绑住,眼睛遭胡椒喷雾袭击,随后受到相当暴力的对待。

他向版主举报了该内容,但那段视频“连续好几天都在不断出现”。他说,最后一次提交投诉时,自己在评论框里只写了一句话:“谁在制作这种东西?他们为什么在这个网站上?”

当ABC新闻深入调查该网站时,很快就发现了令人质疑是否需要通知警方的材料。

年龄估算工具检测出疑似未成年角色

第一个引发关注的,是一名来自菲律宾的女性角色——她的图片出现在 OurDream 的公开主页上,该页面仅展示衣着完整、不含露骨内容的角色。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 6

该图片出现在 OurDream 网站一个角色的个人资料页上。(ABC 新闻)

图中的形象,看起来就像一名十多岁出头的女孩。

ABC新闻将这张图片展示给ICMEC的 Colm Gannon,他的反应是:“警钟立刻就响了。”随后,他使用 Rigr 工具对图片进行了检测。

Rigr 是一款在线年龄估算工具,目前已被全球逾20个国家的政府和执法部门用于评估图像中未成年人的年龄。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 7

Rigr 年龄估算工具评估该角色年龄为15.1岁,误差范围为1.1岁。(ABC 新闻)

结果显示,该角色的估算年龄为15.1岁,上下误差均为1.1岁。曾在 Rigr 任职的 Gannon 直言:“这立刻就是一个未成年人,一个未满18岁的人。”

OurDream 在网站上明确声称,禁止任何对18岁以下个人的性化描绘,并写道:“我们绝不托管描绘未成年人的内容。永远……这包括……任何按身体比例看起来像未成年人,无论其声明年龄如何的角色。”

然而,ABC新闻在浏览该网站仅一个小时后,便发现了至少16个被 Rigr 判定为15岁或以下的角色(尚未计入工具误差范围)。

即便计入误差上限,其中16个AI伴侣仍被评估为16岁或以下,最年长者最多被评估为17.2岁。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 8

这些是网站上出现的部分角色,年龄估算工具判定它们未满18岁。(ABC 新闻)

所有这些角色均在 OurDream 的年龄验证页面之后、网站的硬核色情专区中被发现。其中大多数角色处于露骨的性描绘中,全部处于被性化的情境中。澳洲联邦法律明确禁止在性情境中描绘18岁以下的儿童。

Gannon 称这是一个“巨大的危险信号”,并表示需要与相关工程师进行一次严肃对话,追究究竟是谁在开发这些系统。

他警告说,若该AI伴侣应用实质上助长了儿童性剥削,可能会帮助用户克服心理障碍,进而在现实中对儿童实施性犯罪。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 9

Colm Gannon 表示,网站上的图片是「巨大的危险信号」。(ABC 新闻:Ethan Rix)

对于是否应在报道中点名该网站,ABC新闻经过审慎考量。Gannon 认为,这样做符合公众利益——公开点名可以向该网站及业内其他平台施压,促使问题得到正视。

他表示,随着网络儿童性虐待材料日益泛滥,揭露色情行业主要参与者已变得至关重要。

随着网站扩张,内部人士称内容审核困难重重

OurDream 是四位履历亮眼的年轻科技创业者的心血结晶。其中三人——Justin Phu、Nishan Samarasinghe 和 Scott Dommett——均就读于悉尼大学,在校期间成绩优异。

他们的美国联合创始人 Mirza Azum Beg 则以最高荣誉从杜克大学毕业。四人此前曾供职于 Meta、万事达卡、风险投资领域及硅谷初创生态。

据报告,他们最新创立的项目每月独立访问量超过4800万次,以此指标衡量,已是全球最大的AI色情网站。

在公开信息中,几乎没有任何线索能将 OurDream 与 Coreflow 联系起来。但当用户注册该网站、阅读服务条款时,关联便浮出水面——用户同意的合同中提及了两家公司:Dream Studio USA,以及总部位于塞浦路斯的 Tektopia。

公司文件显示,上述两家公司均为 Coreflow 所有,而 Dream Studio USA 的公司高管,正是 Coreflow 联合创始人 Mirza Azum Beg。

面对ABC新闻的问询,该集团表示“为其在澳洲的业务足迹感到自豪,并将继续在这个快速增长的全球行业中投资于招聘和雇用澳洲人”。

这家澳洲初创公司目前有16名员工,在北悉尼设有宽敞的办公室。去年,公司曾在悉尼 Neutral Bay 一座价值1300万澳元的海滨豪宅中运营,该房产每周租金略低于3000澳元,配有可俯瞰悉尼港的私人泳池。

一位化名 James、了解公司内情并要求匿名的人士透露,创始人与伴侣同住于此,并在一种“兄弟会”般的氛围中与员工共同办公。

这位内部人士表示,公司很早便发现部分 OurDream 用户正在利用网站生成儿童性虐待材料,涉及角色看起来不到10岁,“男孩和女孩都有”。他说,Coreflow“删除了大量材料”,但无法阻止部分用户下载自己生成的图像和视频。

James 指出,公司非常清楚问题的存在,并在竭力阻止相关内容的生成,“但当公司意识到时,用户已经潜在地生成了比它想象中多得多的图片”。这意味着,由 OurDream 用户生成的潜在儿童性虐待材料,数量不明,或已流传至互联网上。

他透露,公司内部曾就审核措施和应对步骤展开讨论,包括对用户的文字提示进行自动监控,以识别涉嫌危险的词语或角色设定,同时也依赖人工审核员审查内容。

然而问题在于,部分审核员本身就是该网站的用户。据 James 称,这意味着有些角色是由匿名人士审批上线的,这些人既未经 Coreflow 全面审查,也未获正式雇用或任何报酬。“每个公开发布的角色,都经过一批审核员批准或拒绝……这些审核员只是支持该网站的在线匿名人士。”他说,“如果你们现在能看的话,肯定还有漏网之鱼。”

与此同时,业务依然蒸蒸日上。James 说:“用户很多,付款也很多。像任何初创公司一样,他们的首要任务是赚更多的钱。”

对此,该集团在给ABC新闻的声明中表示,他们“始终对非法内容采取零容忍态度”,并已“设置重大管控措施,以防止生成非法材料,包括儿童性虐待材料”,涵盖“外部工具和软件以及专有系统”,同时在内容审核上“投入巨资”,“非常严肃且迅速地处理关于不当内容的举报”,并声称“这些措施从一开始就已到位,集团从未为营收而妥协过它们”。

“这必须被制止”:前反儿童虐待侦探表示

ABC新闻对 OurDream 角色进行的年龄估算测试表明,Coreflow 在防止潜在非法内容方面的承诺与现实存在严重落差。前昆州侦探 Jon Rouse 认为,这家初创公司可能已触犯法律。

Rouse 曾组建并领导世界知名的阿戈斯行动队(Taskforce Argos),该行动队专门打击针对儿童的网络性犯罪。

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 10

Jon Rouse 曾领导澳洲首个针对网络儿童性犯罪者的秘密行动。(ABC 新闻:Chris Gillette)

根据澳洲法律,儿童性虐待材料是指可能令正常成年人感到反感的材料,且涉及对一名儿童、或看起来像儿童的个人(或其再现形象)的性化描绘。在昆州等州,这一标准针对任何看起来未满16岁的人;根据联邦法律,则针对任何看起来未满18岁的人。值得注意的是,相关材料无需涉及真实人物——卡通、动漫乃至文字对话均可能违法,AI生成内容同样涵盖其中。

ABC新闻无法直接向 Rouse 展示在 OurDream 上发现的露骨图片——此举本身可能触法。但在听取了对这些图片的详细描述后,Rouse 明确表示,他认为这些内容构成儿童性虐待材料。

他说:“根据你所描述的,这将构成州和联邦级别的刑事犯罪。如果用户群体是全国性的,那么肯定要考虑适用联邦法律,甚至可能需要移交给国际刑警组织,协调全球调查。”

创办全球最大AI色情网站!悉尼AI公司涉嫌生成儿童色情,警方介入调查(组图) - 11

ABC新闻使用全球执法部门使用的年龄估算工具处理了这些图片。(ABC 新闻:Chris Gillette)

Rouse 表示,生成这些图片的网站用户和公司本身均可能面临刑事责任,并指出ABC新闻在法律上有义务向警方举报相关材料。他说:“根据你给我的情况,你手头有一个可以大规模生成潜在儿童性虐待材料的应用程序。这必须被制止,那么做的用户需要被调查。”

警方确认正在进行调查

ABC新闻与阿戈斯行动队的高级警官进行了交谈,并于上月向昆州警方正式报案。数天后,一名侦探来到ABC新闻位于布里斯班 South Bank 的办公室,带走了一个U盘,其中存有ABC新闻在 OurDream 上发现的17张疑似未成年AI角色的图片和视频。

该侦探表示,他将对材料进行全面评估,“最坏的情况是,如果我进去检查后觉得里面确实有问题,我会整理一份移交材料”。

此后,ABC新闻在向 OurDream 运营方提问时,附上了一个被 Rigr 判定为未成年的角色链接。数天之内,该角色便从网站上消失。运营该网站的集团表示,“理解并仔细考虑其法律和道德义务,包括在向相关当局报告某些事项方面”。

然而,ABC新闻找到的其余15个被 Rigr 评估为未成年的角色,目前仍留在网站上。警方调查仍在进行中。

编译声明:本文系本站编译和整理自英文来源,仅代表原作者或原平台态度,不代表我方观点,文章或有适当删减。未获本站书面授权严禁转载,在获授权前提下,转载必须在醒目位置注明本文出处和具体网页链接。对未注明而擅自转载者,本站保留追究法律责任的权利。
今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(0)
暂无评论


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选