上周，人工智能生成的流行歌星泰勒·斯威夫特 (Taylor Swift) 的露骨色情图片充斥社交媒体后，X（前身为 Twitter）屏蔽了所有对“泰勒·斯威夫特”的搜索。
在该网站上，一条错误消息显示：“出了点问题。尝试重新加载”。不过，它仅适用于连续搜索歌手的名字和姓氏的情况。
在歌手的图片疯传后，X 屏蔽了“Taylor Swift”的所有搜索结果上周。图片来源：美联社
X 的业务运营主管表示，阻止此类内容的决定是临时行动乔·贝纳罗克 (Joe Benarroch) 正在以“高度谨慎”的方式处理，以确保安全。
上周，斯威夫特的露骨和辱骂性假照片开始在网上流传，引发粉丝们在社交媒体平台上大量传播。在#ProtectTaylorSwift 标签旁边出现了更多歌手的正面图片。
根据 NBC 的一份报告，这些假图片在最初发布的帐户之前 19 小时内产生了超过 2700 万次浏览露骨的色情内容已被暂停。作为回应，X 于周五发布了一份声明，重申了其对未经同意的裸露图像的立场。
“我们对此类内容采取零容忍政策，”发布在 X 上的声明写道。 。 “我们的团队正在积极删除所有已识别的图像，并对负责发布这些图像的帐户采取适当的行动。我们正在密切关注事态发展，以确保立即解决任何进一步的违规行为，并删除相关内容。我们致力于为所有用户维护一个安全且相互尊重的环境。”
在其他地方，Meta（Facebook 的所有者）也致力于删除露骨内容，并发表声明，强烈谴责那些出现在不同的互联网服务中。
“我们将继续监控我们平台上的此类违规内容，并将根据需要采取适当的行动，”该公司表示。
广告自从图形图像疯传以来，各个组织都呼吁采取行动，制止破坏性深度伪造内容的扩散。白宫新闻秘书卡琳·让-皮埃尔 (Karine Jean-Pierre) 敦促国会就这一问题采取立法行动，并指出执法不严对妇女和女孩造成了不成比例的影响。
加载周五，好莱坞演员工会 SAG-AFTRA 也谴责这些图像，将其描述为“令人不安、有害且令人深感担忧”。
“未经某人同意，开发和传播虚假图像，尤其是那些具有猥亵性质的图像，必须被视为非法，”该工会表示。 “作为一个社会，我们有能力控制这些技术，但我们必须立即采取行动，以免为时已晚。”
工会还表示支持纽约民主党人乔·莫雷尔 (Joe Morelle)，他是推动一项法案，将在线共享 Deepfake 色情内容定为犯罪。
Deepfakes 使用人工智能（称为“深度学习”）来创建真人的虚假图像或视频。这通常涉及操纵他们的身体或面部。据 BBC 报道，自 2019 年以来，此类经过处理的图像的创建数量增加了 550%。
研究人员怀疑假 Swift 图像是通过扩散模型创建的 -生成人工智能模型，可以根据书面提示生成新的逼真图像。这包括 Midjourney、Stable Diffusion 和 OpenAI 的 DALL-E 等模型。
正在加载微软目前提供部分基于 DALL-E 的图像生成器。其首席执行官萨蒂亚·纳德拉 (Satya Nadella) 在接受 NBC 新闻采访时表示，斯威夫特的假图片“令人震惊和可怕”，并补充道，“无论你在任何特定问题上的立场如何，我认为我们都会受益”当网络世界是一个安全的世界时。”
微软目前正在调查其图像生成工具是否被滥用。
在澳大利亚，民事和刑事立法没有规定惩罚色情深度假货的创作和拥有，这意味着起诉其传播仍然很困难。知识产权和媒体律师 Ted Talas 和 Maggie Kearney 在一份报告中表示，目前监管 Deepfake 的法律框架可能不足以解决它们给个人带来的挑战。
“未来的立法改革只会永远成为有效解决方案的一部分。我们需要不断开发有效的工具来检测、识别深度造假并向互联网用户发出警报。”
查找下一部电视、流媒体连续剧和电影，添加到您的必看内容中。每周四发送关注列表。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
