中国互联网污染，AI成为“罪魁祸首”之一。
事情是这样的。
最近大家都热衷于咨询AI。有网友问冰这样一个问题：
象鼻山有缆车吗？
在给予肯定答复后，必应还贴心附上了票价等详细信息和营业时间。
不过，这位网友并没有直接采纳这个答案，而是循着线索点击了下方的“参考链接”。
这时候网友就感觉不对了——这人怎么回答的要“精神”。
于是他点开了那个叫“变命人生”的用户主页，恍然大悟，原来杰是个AI！
因为这个用户答题很快，几乎每1题就能解一道或 2 分钟。
甚至可以在 1 分钟内回答 2 个问题。
经过这位网友的仔细观察，我发现这些回答的内容是未经验证的...
并且他认为这就是导致Bing输出错误的原因answer:
这个AI正在疯狂污染中国互联网。
那么被网友发现的AI用户现在怎么样了？
从目前的结果来看，他已经被知乎“判”为沉默状态。
不过尽管如此，也有网友直言：
不止一个。如果点开知乎的“等你解答”栏目，随便找一个问题，往下拉，确实会遇到很多“妙语连珠”的答案。
比如我们在“AI在生活中有哪些应用场景？”的回答中找到了一个：
不仅是答案的语言，还是答案 是直接贴上“包括AI辅助创作”的标签。
然后，如果我们将问题抛给 ChatGPT，那么我们就会得到答案……好吧，这是一个很大的变化。
其实，这样的“AI污染源”并不仅限于这个平台。
即使是简单的图片科普这件事，AI也屡屡失误。
网友看了这篇也住蚌埠：“好家伙，一个都没有图片是贻贝。”
就连各种AI生成的假新闻也很常见。
比如前段时间，有一个轰动一时的新闻在网络上疯传。标题是《郑州鸡扒店血案，男子用砖头将女子活活打死！ ".
但其实这个消息是陈某发的江西人用ChatGPT吸粉。
无独有偶，广东深圳的洪哥也用AI技术发布假新闻“今天早上，甘肃一列火车撞上了马路建筑工人，杀9人”。
具体来说，他全网搜索近年社会热点新闻，并利用AI软件对新闻时间、地点等进行修改编辑，获得关注和关注。
警方已对其采取刑事强制措施。
但实际上，“AI污染”现象source”不仅在中国存在，在国外也有。
程序员问答社区Stack Overflow就是一个例子。
早在去年年底ChatGPT的时候刚火起来，Stack Overflow突然宣布“临时封禁”。
当时官方给出的理由是这样的：
（这样做）的目的是为了减慢使用速度ChatG的PT创造的大量答案流入社区。
因为从ChatGPT 得到错误答案的概率太高了！
他们认为之前用户回答的问题被其他具有专业知识背景的用户浏览过，并且他们是否正确相当于验证。
但自从ChatGPT出现后，出现了大量人们认为“正确”的答案；并且具有专业知识背景的用户数量有限，不可能一遍又一遍地阅读所有这些生成的答案。
ChatGPT除了回答这些专业问题，它的错误率也是真的存在；因此 Stack Overflow 选择禁用它。
一句话，AI污染了社区环境。
和美国版贴吧 Reddit 一样，有更多的 ChatGPT 版块和主题：
很多用户会在这个栏目下提出各种问题，ChatGPT bot也在解答.
不过还是个老问题，不知道答案有多准确。
但这种现象的背后，其实隐藏着更大的隐患。
滥用AI也毁掉AI
AI模型获取了大量的互联网数据，却无法很好地区分信息的真伪。
结果是我们不得不应对大量快速生成的低质量内容，让人头晕目眩。
如果用这种数据训练ChatGPT的大型模型，很难想象结果会怎样……
滥用 AI 反过来也是一种自噬。
近日，英国和加拿大的研究人员在 arXiv 上发表了题为“The Curse of Recursion: Training on Generated Data Makes Models Forget”的论文。
讨论 AI 生成内容污染互联网的现状，然后公布令人担忧的发现是，使用模型生成的内容来训练其他模型可能会导致生成的模型出现不可逆转的缺陷。
AI生成数据的这种“污染”会扭曲模型对现实的感知，未来通过抓取互联网数据来训练模型会变得更加困难。
论文作者、剑桥大学和爱丁堡大学安全工程教授罗斯·安德森直言：
就像我们用塑料填满海洋一样废物和大气中的二氧化碳，我们即将用垃圾填满互联网。
对于虚假信息满天飞的情况，谷歌大脑高级研究科学家达芙妮·伊波利托（Daphne Ippolito）表示：要找到没有经过验证的高质量数据会更加困难未来被人工智能训练。
如果满屏都是这种没有营养的劣质信息，一直这样下去，那以后就没有AI的数据训练了，输出的结果有什么意义。
基于这种情况，大胆想象一下。一个在垃圾和虚假数据环境中成长起来的AI，在进化成人类之前，可能会被装进一个“弱智机器人”，一个智力低下的智障机器人。
就像1996年的科幻喜剧电影《丈夫与篮子》，影片讲述了一个普通人克隆自己，然后克隆出克隆人的故事，每一次克隆都会导致克隆人的智力水平成倍下降，愚蠢程度增加。
到那时，我们可能不得不面对一个荒谬的困境：人类创造了一个能力惊人的人工智能，但它却充满了无聊和愚蠢的信息。
如果 AI 只输入虚假的垃圾数据，我们可以期望它们创建什么样的内容？
如果时间到了那个时候，我们大概会怀念过去，向那些真正的人类智慧致敬。
话虽如此，也不全是坏消息。比如一些内容平台已经开始关注AI产生的劣质内容问题，出台相关规定进行限制。
一些人工智能公司也开始研发能够识别人工智能生成内容的技术，以减少人工智能虚假信息和垃圾信息的爆发。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
