聊天机器人吐出谎言，换脸应用程序制作色情视频，克隆声音欺骗公司数以百万计的人——人们正在努力控制已经成为错误信息超级传播者的 AI deepfakes。
人工智能 (AI) 正在重新定义“眼见为实”这句谚语，凭空创造了大量图像，人们用嘴巴说出他们从未在看起来像真的深度造假中说过的话，这削弱了在线信任。
亿万富翁埃隆·马斯克去年在推特上回应了一个生动的例子，其中一个生动的例子显示他在宣传加密货币骗局，“[绝对]不是我。”
< p class="_39n3n">中国最近通过了广泛的规则来规范 deepfakes，但大多数国家似乎都在努力跟上快速发展的技术，因为人们担心监管可能会阻碍创新或被滥用来限制言论自由。专家警告说，deepfake 检测器我们远远落后于创作者，他们很难被抓住，因为他们使用基于 AI 的软件匿名操作，这些软件曾经被吹捧为一种专业技能，但现在可以以低成本广泛使用。
Facebook所有者 Meta 去年表示，它删除了乌克兰总统 Volodymyr Zelenskyy 敦促公民放下武器向俄罗斯投降的深度伪造视频。
30 岁的英国活动家 Kate Isaacs 说她当她的脸出现在一段深度伪造的色情视频中时，“心沉了”，该视频在一位不知名的用户在 Twitter 上发布后引发了一连串的网络辱骂。
“我记得当时感觉这段视频是BBC 于 10 月援引 Isaacs 女士的话说，她曾致力于反对未经同意的色情内容，这太可怕了。
接下来的一个月，英国政府表达了对 deepfakes 的担忧，并警告说一个流行的网站“几乎将女性脱光衣服”。
欧洲刑警组织警告“信息末日”
创建 AI 合成没有障碍文本、音频和视频，滥用身份盗窃、金融欺诈和损害声誉的可能性已引起全球警觉。
政治风险咨询公司欧亚集团称人工智能工具为“大规模武器”中断”。
你能发现假视频吗？
在全球大流行、色情报复兴起和即将到来的美国大选之际，随着现实与虚构之间的界限越来越模糊，深度造假正引起专家们的关注.
“人工智能的技术进步将削弱社会信任，赋予煽动者和独裁者权力，并扰乱企业和市场，”the该组织在一份报告中警告称。
“深度造假、面部识别和语音合成软件的进步将使对个人形象的控制成为过去。”
本周，AI 创业公司 ElevenLabs 承认其语音克隆工具可能被滥用于“恶意目的”，此前用户发布了一个据称是演员 Emma Watson 正在阅读阿道夫希特勒的传记《我的奋斗》的深度伪造音频。
越来越多的 deepfakes 可能会导致欧洲执法机构 Europol 所描述的“信息末日” se”，这是一种许多人无法区分事实与虚构的场景。
“专家担心这可能会导致公民不再拥有共同的现实或可能造成社会混乱的情况欧洲刑警组织在一份报告中说：“关于哪些信息来源是可靠的，”欧洲刑警组织在一份报告中说。比赛期间心脏骤停。
哈姆林感谢负责他康复的医疗专业人员，但许多认为 COVID-19 疫苗导致他在场上倒下的阴谋论的人毫无根据地标记了他的视频 deepfake。
'优雅、虚假和误导'错误信息超级传播者
中国上个月实施了新规定，要求企业提供 deepfake
这不是汤姆克鲁斯。让安全专家如此担心
当 Chris Ume 发布好莱坞明星汤姆克鲁斯的 deepfake 视频时，他不知道会有什么反应
他们还要求对 deepfake 内容进行适当标记以避免“任何混淆”。
这些规定是在中国政府发出警告后出台的deepfakes 带来了“对国家安全和社会稳定的威胁”。
在美国，政客们推动成立一个特别工作组来监管 deepfakes，数字权利活动家警告不要过度立法这可能会扼杀创新或针对合法内容。
与此同时，欧盟正就其拟议的“人工智能法案”展开激烈讨论。
欧盟今年正在竞相通过的法律将要求用户披露 deepfakes，但许多人担心，如果立法不涵盖创意或讽刺内容，那么该立法将被证明是无效的。
"您如何恢复透明的数字信任？这是现在真正的问题，”锡拉丘兹大学研究教授杰森戴维斯告诉法新社。
“[检测[工具即将到来，而且来得相对较快。但这项技术的发展速度可能更快。所以，就像网络安全一样，我们永远不会解决这个问题，我们只希望跟上。”
ChatGPT 被西澳公立学校禁止
西澳禁止可以输出散文、摘要和短篇小说的 AI 聊天机器人学年开始前的公立学校。
许多人已经在努力理解诸如 ChatGPT 之类的进步，ChatGPT 是美国 OpenAI 创建的聊天机器人，能够生成令人信服的对话xts 几乎适用于任何主题。
在一项研究中，媒体监管机构 NewsGuard 称其为“下一个伟大的错误信息超级传播者”，并表示聊天机器人对与以下主题相关的提示的大部分回应COVID-19 和学校枪击事件是“雄辩、虚假和误导”。
“结果证实了人们的恐惧……关于该工具如何落入坏人之手，”NewsGuard 说。< /p>
法新社
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
