旧金山市检察官David Chiu表示,16家网站因使用人工智能创建深度伪造的女性和女孩裸体图像而面临关闭。
旧金山市检察官David Chiu宣布,他的办公室正在对16家网站提起诉讼,这些网站使用人工智能开发和分发非安全深度伪造的女性和女孩裸体图像。这是在人们更加关注人工智能非自愿图像的创建和分发之际发生的。
这是旧金山首例此类诉讼,指控网站运营商违反了州和联邦法律,这些法律谴责深度伪造色情、儿童色情和报复性色情材料,以及加州的不公平竞争法。
据《纽约时报》报道,该倡议是首席副检察官Yvonne Mere的想法,她召集同事们起草了一份诉讼,该诉讼应导致16个网站关闭。
周四向公众提供的诉讼副本中,这些网站的名称受到了审查。
虽然检察官办公室尚未确定大多数网站的所有者,但该办公室的官员对找到网站所有者的姓名并追究其责任表示乐观。
在周四的新闻发布会上,邱说,这些网站在没有照片中人物共识的情况下制作了“色情”材料。
邱暗示,该诉讼旨在关闭这些网站,并对这种形式的“性虐待”发出警报,并结束这种行为。
“这项调查把我们带到了互联网最黑暗的角落,我对那些不得不忍受这种剥削的妇女和女孩感到非常震惊。”邱。
在上述网站上,用户上传穿着得体的真人照片,然后人工智能会改变照片以模仿这个人裸体的样子。
正如诉讼所指出的那样,其中一个网站宣传了这些图像的非自愿性质,声称:“想象一下,当你可以使用[编辑后的网站名称]来获取她的裸体时,浪费时间带她出去约会。”
开源人工智能模型的可用性和可访问性意味着任何人都可以根据自己的目的访问和调整人工智能引擎。这导致创建了可以从头开始生成deepfake裸体或以逼真的方式“裸体”现有照片的网站和应用程序,通常需要付费。
今年1月,泰勒·斯威夫特的假裸照在网上疯传,deepfake应用程序成为头条新闻。斯威夫特前后,许多其他不太受欢迎的人都受到了迫害。
邱承认,从名人到中学生,“这些照片的泛滥已经剥削了全球数量惊人的妇女和女孩”。
通过自己的调查,市检察官办公室发现,今年上半年,这些网站的访问量超过2亿次。该办公室表示担心,一旦图像上传到网上,受害者就很难确定哪些网站被用来“裸体”他们的照片。
这是因为这些图像没有任何独特的或可识别的标记,人们可以参考这些网站。此外,受害者也很难从互联网上删除照片,这会影响他们的自尊和数字足迹。
今年早些时候,五名比佛利山庄八年级学生因生成和分享16名八年级女孩的deepfake裸体图像,将女孩的脸叠加到人工智能生成的身体上而被开除。
邱的办公室表示,在加利福尼亚州、新泽西州和华盛顿州的其他学校也发现了类似的事件,这些照片被用来羞辱、欺凌和威胁妇女和女孩。
律师办公室表示,对受害者的净影响是破坏他们的声誉,遭受心理健康,失去自尊,在某些情况下,导致个人自杀。
最新资讯
以太坊 ETF 迎来推出以来最佳一周
2024-11-22 16:53
加密货币交易员称排名前 50 的山寨币可能上涨超过 100%
2024-11-22 16:49
以太坊和 Pepe Coin 下跌,因为鲸鱼将注意力转向这种基于 ETH 的突破性山寨币
2024-11-22 16:45
Samson Mow 预测比特币将达到 100 万美元,呼吁 ETH 持有者“立即出售并购买比特币”
2024-11-22 16:41
以太坊随着看涨突破而获得动力,ETH 价格将达到 4000 美元?
2024-11-22 16:36
HyveDA 与 Lido 合作提供可扩展的 DA,并添加 wstETH 作为抵押品
2024-11-22 16:29
近期价格上涨后,ETH 未平仓合约飙升至历史新高
2024-11-22 16:24
XRP 上涨 10%,Gensler 于 1 月 20 日卸任,Solana 和 BTC 创下新高
2024-11-22 16:19
最热资讯
以太坊 ETF 迎来推出以来最佳一周
2024-11-22 16:53