“ AI可能是人类历史上最具变革性的技术，”本周司库写道。
这是最稀有的陈述：立刻强调宏伟，完全谦虚。 Grand，因为它的AI超过了车轮，电或互联网。谦虚，因为它使AI与所有这些相同，就好像它的差异仅仅是规模和速度之一，而不是更基本的东西。这样，吉姆·查尔默斯（Jim Chalmers）呼应了生产力委员会最新的临时报告的精神，该报告也在本周发布，研究了人工智能将如何改变我们的经济。
信用：艺术品：Artwork：Simon Letch
可以说，这项报告是乐观的。为此，它警告政府不要过度监管AI，以减慢其富有成效的游行。
Chalmers的同一想法版本的政府规范“尽可能多地保护澳大利亚人，但尽可能少地鼓励创新”。所有这些都假定对人工智能风险的某种清晰的评估。正是所有这些乐观的人都应该让我们停下来。
并不是因为政府或委员会否认存在严重的风险。但是，因为它们将这些风险（与AI的特征一样）描述为以前的经验的扩展。确实，在这一点上，委员会的报告几乎不清楚。在经历了一系列潜在的问题（包括AI之类的严重问题）之后广泛或结构性。为此，他观察到，尽管技术发展始终消除工作，但它们创造的比销毁更多。他确认。
，这是一个假设，而不是一个论点。它假设所有技术进步都是某种单一的，未分化的现象，因此其历史广泛重复。但这是阿尔巴尼政府必须知道的不正确的事情。毕竟，这是对16岁以下儿童的社交媒体平台实施禁令，我们花了多年的一种有害技术的反应，以为是电视的良性。
现在，我们似乎假设AI类似地将AI整齐地适合良性模式。该假设只能在AI的范围内与以前的大多数情况相似。 And in the circumstances, we’d be wise to examine it far more rigorously before settling on it because there are good reasons to suppose it is a different species altogether, for which history is a poor guide.
AdvertisementThat’s because technology has hitherto been something we build.我们确定它是什么以及将做什么，并设计它以实现这些目的。我们不能预见其所有应用程序，也不能阻止人们应用程序为邪恶目的进行纠正。但是无论如何，它都是我们各种目标的扩展。我们了解其工作原理，并将其相应地使用。但是AI不是我们建立的。相反，这是我们训练的东西。也就是说，我们给它提供了指导自身的工具。
chatgpt首席执行官山姆·奥特曼（Sam Altman）。 信用：彭博社
是为了清楚地说明这一点，开发AI的公司正在对其进行训练。也就是说，他们正在训练AI进行编程。随着AI的思维速度比任何人类的思维速度更快，更好，因此，AI将迅速产生地球上最快，最复杂的计算机程序员。到那时，以我们谈论其他技术的方式谈论AI是没有意义的。它将不再是工具；它将是代理。
一旦实现了这一目标，就可以开始自我发展。人类编码员可能需要花费数年的时间，可能需要花费几周的时间。这种开发使它变得更好，更快，这又使其变得更好，更快，所有这些都等于指数加速。
在这一点上，我们甚至不再谈论人工智能，因为我们理解它。我们正在谈论丹尼尔·科科塔（Daniel Kokotajlo）所说的“超级智能”，在这里，AI将成为超人人类，而人类将在很大程度上变得多余。在这一点上，大规模失业将是我们最不关心的问题。
科科塔伊应该知道他的讲话。他是开放AI的前雇员 - 开发了Chatgpt，他离开了公司，因为他不再认为它能够解决其释放的风险。他认为，我们将在2027年或2028年开始看到超级智能。无论时间表如何，这里的基本问题都是精通的。与以前的技术不同，即使在这种粗俗的早期阶段，AI已经以其发明者不了解的方式行事。没有犯错误或绘制不良数据。但是给出不真实的答案，并且知道它是不真实的。没有人知道为什么会发生这种情况，其所有者正在试图阻止这种情况。但是，如果我们将AI视为可以产生自己的思想的数字大脑，那么我们应该毫不奇怪，它开始追求自己的目标，这与我们的目标无关，甚至我们甚至可能都不知道。一旦加速加速，我们是AI的大师的任何假装都会蒸发。
当然，Kokotajlo提供了一个预测。它是基于对技术和生产公司的公司的深入了解。他说的公司很清楚他描述的情况甚至包含了它的各个方面。但是即便如此，预测也很烦恼，并且可能无法通过。
各种方式都可以干预此过程。例如，法规。 Kokotajlo认为这不太可能是因为人类在应对我们没有经历和无法轻易想象的风险方面往往会很糟糕。您甚至可能会说他假设历史会重复。也许，我们应该抗拒做同样的事情。
Waleed Aly是广播员，作家，学术和定期专栏作家。
意见通讯是每周的观点包装，挑战，冠军并告知您自己的观点。 。 class =“ ktphl iie5g”聚焦=“ false” height =“ 1em” width =“ 1em”> <使用xlink：href =“＃icon-save”> 保存 in in ，<！
澳洲中文论坛热点