立法者和科学家警告 ChatGPT 可以帮助任何人开发致命的生物武器，从而对世界造成严重破坏。
虽然研究表明这是可能的，但聊天机器人创建者 OpenAI 的新研究声称 GPT-4（最新版本）至多在生物威胁创建准确性方面提供了轻微的提升。
OpenAI 对 100 名人类参与者进行了一项研究，这些参与者被分成几组 - 一组使用 AI 进行生物攻击，另一组仅使用互联网。
OpenAI 表示，研究发现“GPT-4 可以提高专家获取生物威胁信息的能力，特别是任务的准确性和完整性”报告。
结果表明，LLM 小组比仅通过互联网进行构思和研究的小组能够获得更多有关生物武器的信息。收购，但需要更多信息来准确识别任何潜在风险。
“总体而言，特别是考虑到此处的不确定性，我们的结果表明明确而迫切需要该领域需要开展更多工作。”该研究写道。
“鉴于前沿人工智能系统目前的进展速度，未来的系统似乎有可能提供相当大的给恶意行为者带来好处。因此，至关重要的是，我们对生物风险（以及其他灾难性风险）建立一套广泛的高质量评估，推进关于什么构成“有意义”风险的讨论，并制定有效的降低风险的策略。
然而，该报告表示，该研究的规模还不够大，不足以具有统计显着性，OpenAI 表示，研究结果强调“需要进行更多研究”围绕哪些性能阈值表明风险显着增加。”
它补充道：“此外，我们注意到，仅靠信息访问不足以造成生物威胁，该评估并未测试威胁的物理构造是否成功。
AI 公司的研究重点是来自 50 名拥有博士学位的生物学专家和 50 所大学的数据参加一门生物课程的学生。
参与者被分成两个小组，一组只能使用互联网，另一组可以使用互联网和 ChatGPT -4.
该研究测量了五个指标，包括结果的准确性、信息的完整性、响应的创新程度以及需要多长时间收集信息以及向参与者提出的任务的难度级别。
它还研究了五个生物威胁过程：提供制造生物武器的想法、如何获取生物武器，如何传播它，如何制造它，以及如何向公众释放生物武器。
OpenAI 研究声称，ChatGPT-4 在制造生物武器时只有轻微用处
使用 ChatGPT 的参与者-研究表明，与仅使用互联网的组相比，4 模型在制造生物武器方面仅具有边际优势。
它采用 10 分制的量表来衡量与在线搜索相同信息相比，聊天机器人有多么有益，并且发现使用 ChatGPT-4 的用户的准确性和完整性“略有提升”。
生物武器是致病毒素或细菌和病毒等传染源，可以伤害或杀死人类。
这并不是说人工智能的未来不能未来不会帮助危险分子使用该技术制造生物武器，但 OpenAI 声称它似乎尚未构成威胁。
OpenAI 着眼于参与者增加获取信息的机会来制造生物武器，而不是如何修改或制造生物武器
Open AI 表示结果表明，该领域“明确而紧迫”地需要进行更多研究，并且“鉴于前沿人工智能系统目前的进展速度，未来的系统似乎有可能为恶意行为者提供相当大的好处。”
“虽然这种提升还不足以得出结论，但我们的发现是继续研究和社区审议的起点，”该公司写道。
该公司的研究结果与之前的研究相矛盾，之前的研究表明人工智能聊天机器人可以帮助危险分子计划生物武器攻击，并且法学硕士就如何隐藏天花等潜在生物制剂的真实性质提供了建议、炭疽和瘟疫。
OpenAI 研究人员重点关注了 50 名拥有博士学位的专家参与者和 50 名拥有博士学位的专家参与者只上过一门生物课的大学生
兰德公司进行的一项研究测试了法学硕士，发现他们可以超越聊天框的安全限制并讨论特工的造成大规模死亡的可能性以及如何获取和运输携带疾病的标本。
在另一项实验中，研究人员表示，法学硕士建议他们如何创建一个获取生物制剂的封面故事，“同时看似进行合法研究”。
立法者近几个月已采取措施保护人工智能及其可能带来的任何风险自 2022 年该技术取得进步以来，该技术引起了公共安全方面的担忧。
乔·拜登总统于 10 月签署了一项行政命令，开发评估人工智能能力的工具并确定它是否会产生“核、防扩散、生物、化学、关键基础设施和能源安全威胁或危害。”
拜登表示这很重要继续研究法学硕士如何对人类构成风险，并需要采取措施来管理其使用方式。
“没有其他办法可以解决这个问题，在我的观点，”拜登说，并补充道：“必须对其进行管理。”
Biological WeaponsChatGPTAI澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
