澳洲揭秘:OpenAI 员工警告董事会,强大的人工智能发现可能“威胁人类”——在首席执行官山姆·奥尔特曼 (Sam Altman) 被解雇之前

在澳大利亚中文新闻




Open AI 工作人员警告其董事会,一项强大的人工智能突破可能对人类构成威胁,随后首席执行官 Sam Altman 被解雇,后来又重新受聘。

几位研究人员致信董事,警告 Q* 项目取得的进展有可能危及人类。

这封之前未报道的信件最终导致 ChatGPT 的创建者 Altman 被免职,以及随后这家初创公司内部混乱的五天。

高管 Mira Murati周三向员工提到了 Q*,并透露在本周末的事件之前已向董事会发送了一封信。

Altman 在 Q* 方面取得了进展,一些内部消息人士认为,这可能是该初创公司寻求超级智能的突破。

Open AI 研究人员警告董事会,一项强大的人工智能突破可能会对人性,在首席执行官 Sam Altman 被解雇并重新聘用的几天前

开放 AI 研究人员向董事会发出警告关于可能对人类构成威胁的强大人工智能突破,就在首席执行官 Sam Altman 被解雇并重新雇用的几天前

之前未报道的信件最终导致 ChatGPT 的创建者 Altman 被免职,以及随后初创公司内部混乱的五天

这封之前未报道的信件最终导致 ChatGPT 的创建者 Altman 被免职,以及随后初创公司内部混乱的五天

OpenAI 将超级智能定义为比人类更聪明的人工智能系统,也称为通用人工智能。

消息人士称,这封信是董事会提出的一系列申诉中导致奥特曼被解雇的因素之一。 DailyMail.com 无法获取或查看这封信的副本。

Altman、OpenAI 和写这封信的研究人员没有对这些信息发表评论。

这一消息是在埃隆·马斯克发布另一封信后不久发布的,指控奥特曼及其联合创始人格雷格·布罗克曼创造了一个充满敌意的工作环境。

这封据称由前 OpenAI 员工撰写的信详细描述了 Altman 和 Brockman 的“不诚实”和“操纵性”领导。

具体来说,他们认为“大量 OpenAI 员工被赶出公司,以促进其向营利性模式转型。”

p>

“然而,他们的方法让人严重怀疑他们的真实意图以及他们真正优先考虑人类利益的程度,”它写道。

这位特斯拉大亨写道,“这些似乎值得调查。”几年前,他因公司领导层问题与奥特曼发生了争执。

前 OpenAI 员工发布了一封信,抱怨 Sam Altman 的领导(如图)和Greg Brockman。Altman 于周二在 OpenAI 复职,五天后令人震惊

前 OpenAI 员工发布了一封信,抱怨山姆·奥尔特曼(如图)和格雷格·布罗克曼的领导能力。 Altman 于周二在 OpenAI 复职,距令人震惊的罢免五天后前OpenAI板成员 Greg Brockman

Greg Brockman(如图),OpenAI 联合创始人兼总裁,与 Altman 一起在信中被指控不诚实和操纵

Sam 发出的命令后来导致员工被解雇听他讲话的人,格雷格未能在“性别转变团队成员”周围使用适当的语言。

这封信还指责了留在 OpenAI 的员工“盲目地”追随奥特曼和布罗克曼的领导,“甚至不惜付出巨大的个人代价。”

“这种坚定不移的忠诚源于对报复的恐惧和通过 OpenAI 的利润参与单位获得潜在财务收益的诱惑。”

值得注意的是,当 Altman 上周末被赶下台时,该公司约 700 名员工威胁要辞职并跟随他们的领导人去了微软,当时他正前往微软。

这封来历不明的信最后要求新任命的董事会“采取坚定的态度”反对这些不道德的行为,并对 Sam 和 Greg 的行为展开独立调查。”

“人工智能的未来和人类的福祉取决于您对道德领导力和透明度的坚定承诺。”

在令人震惊的下台后仅五天,Altman 就于 11 月 21 日惊人回归,担任 OpenAI 首席执行官。

OpenAI 经历了五天的动荡

周五:有报道称 Sam Altman 已被解雇,这位科技大亨在 X 上发表评论称, “有点像在你还活着的时候读自己的悼词。”

雅各布·帕乔基 (Jakob Pachocki) 和联合创始人格雷格·布罗克曼 (Greg Brockman) 似乎对此次解雇感到惊讶,两人都辞职以抗议周五深夜涉嫌的伏击。

周六:高管们努力让他回来,一份泄露给员工的备忘录表明公司对他可能的回归感到“乐观”。

周日:有报道称如果公司董事会和治理结构发生变化,他愿意回归。

Altman 随后对谣言泼了一盆冷水,并发布了一张自己的照片在 X 上拜访他的前雇主时使用 OpenAI 访客通行证,并写道:“我第一次也是最后一次佩戴其中之一。”

周一:微软首席执行官 Satya Nadella 宣布 Altman 和 OAI 联合创始人 Greg Brockman 将加入公司,领导新的 AI 创新团队。

>

前 Twitch 领导人 Emmett Shear 已接任 OpenAI 临时首席执行官。

周二:之后动荡的日子里,Altman 在 X 上宣布他将重返 OpenAI。

联合创始人将加入新董事会,成员包括前美国财政部长 Larry Summers、Salesforce 前联合首席执行官 Bret Taylor 和 Adam D'Angelo,上届政府的唯一保留。

几天前,德安吉洛投票罢免了奥特曼。 “我热爱 OpenAI,过去几天我所做的一切都是为了让这个团队及其使命保持团结,”Altman 在 X 上写道。

他的回归导致公司创始人之一 Illya Sutskever 以及 Helen Toner 和 Tasha McCauley 离开。

广告

“我喜欢 OpenAI,过去几天我所做的一切都是为了让这个团队及其使命保持一致,”周三凌晨,Altman 在 X 上的一篇帖子中说道。< /p>

他感谢微软董事长兼首席执行官萨蒂亚·纳德拉 (Satya Nadella) 帮助实现了这一惊人的逆转。

'当我决定在周日晚上加入 [Microsoft] 时,很明显这对我和团队来说是最好的道路。在新董事会和 Satya 的支持下,我期待着回到 openai,并巩固我们与 [Microsoft] 的牢固合作关系。'

在纳德拉在自己的声明中将 Altman 重返 OpenAI 的原因归功于董事会的变化。

“我们对 OpenAI 董事会的变化感到鼓舞,”他写道。 “我们相信,这是迈向更加稳定、信息灵通和有效治理道路上的第一步。”

'Sam、Greg 和我已经交谈并同意他们可以与 OAI 领导团队一起发挥关键作用,以确保 OAI 继续发展我们将蓬勃发展并践行其使命。

“我们期待着巩固我们强大的合作伙伴关系,并为我们的客户提供下一代人工智能的价值和合作伙伴。”

OpenAI 在 X 上发布了自己的声明来确认这一公告。

“我们已原则上达成协议,让 Sam Altman 重返 OpenAI 担任首席执行官,新的初始董事会由 Bret Taylor(主席)、Larry Summers、和 Adam D'Angelo,”他们写道。

“我们正在合作找出细节。非常感谢您对此的耐心等待。”

到周一晚上,公司 770 名员工中有 747 名威胁称,如果 Altman 38岁,没有恢复。

在彭博社看到的全球事务副总裁 Anna Makanju 撰写的一份内部备忘录中,员工周一被告知,管理层正在与 Altman 保持联系。新 CEP Emmett Shear 和董事会“但他们不准备在今晚给我们最终答复”。

一份报告显示,由于担心 Altman 藐视人工智能的危险,Altman 被解除了 ChatGPT 制造商 OpenAI 首席执行官的职务。

一位 OpenAI 董事会成员表达的担忧最终以这位 38 岁的人周五突然被解雇而达到顶峰,让科技界陷入疯狂和猜测风暴。

OpenAI 由 Altman 和其他 10 个人于 2015 年创立,一年前推出了 ChatGPT - 从那时起,其模仿人类书写的能力就被证明是两极分化。

p>

除了引发公众担忧之外,OpenAI 的六人董事会显然也感受到了这种不确定性。

Sam Altman,38 岁,周五被解除 ChatGPT 制造商 OpenAI 首席执行官职务,原因是担心他无视人工智能的危险

38 岁的 Sam Altman 周五被解除 ChatGPT 制造商 OpenAI 首席执行官职务,原因是担心他藐视法律根据一份新报告,人工智能的危险

由 Altman 和2015年另外十个,OpenAI 一年前推出了 ChatGPT - 从那时起,其模仿人类书写的能力就被证明是两极分化

OpenAI 由 Altman 和其他 10 个人于 2015 年创立,一年前推出了 ChatGPT - 自埃隆·马斯克 (Elon Musk) 创立以来,其模仿人类书写的能力已被证明两极分化。 OpenAI 与该公司首席执行官 Sam Altman 合作,但在 2018 年,这位亿万富翁试图控制这家初创公司。

他的请求被拒绝,迫使他退出 OpenAI 并继续他的其他项目。

马斯克此后攻击了该公司,并表示 AI 已经“觉醒”并偏离了 OpenAI 最初的非营利组织使命。

“OpenAI 是一家开源公司(这就是我将其命名为“开放”AI 的原因),它是一家非营利性公司,旨在作为平衡力量马斯克在 2 月份发推文说:“它曾被谷歌收购,但现在它已成为微软有效控制的闭源、利润最大的公司。”

他甚至签署了一封信,呼吁暂停开发人工智能的“危险竞赛”,他们担心人工智能会对“社会和人类构成深远的风险”并可能产生“灾难性”影响。

OpenAI 去年 11 月发布了 ChatGPT - 该技术自此开始腾飞。

虽然许多人仍然对这个新工具持怀疑态度,或者完全愤怒,但 OpenAI 的高管们对它的未来表示了信心,称他们都“相信负责任的创造”以及这些人工智能系统的使用。'

最近,微软向 OpenAI Global LLC 提供了 100 亿美元的投资,此外还向该公司提供了另外 10 亿美元的投资2019 年。

微软特斯拉AIElon MuskChatGPT
澳洲中文论坛热点
悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
联邦政客们具有多少房产?
据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

澳洲新闻,澳大利亚华人网,澳洲华人论坛