报告:基于人工智能的聊天机器人可以帮助计划生物武器攻击

随着人工智能(AI)在科技领域的应用越来越多，未来人工智能可能被误用或过度使用的威胁总是若隐若现。为了讨论与人工智能相关的可能威胁，并使技术空间更安全，人工智能安全峰会将于下个月在英国举行。

在峰会召开之前，一家美国智库披露了一个令人担忧的消息。该公司表示，先进的人工智能聊天机器人可以帮助计划使用生物武器的攻击。

地球被整个吞噬，太阳变成了无生气的白色巨人;科学家预测了50亿年后银河系的样子

现在的趋势

这项研究由兰德公司(Rand Corporation)于周一发布。该组织测试了几个大型语言模型(llm)，发现它们可以为“协助策划和执行生物攻击”提供指导。

人工智能在生物攻击计划中的作用

该报告说，由于缺乏对细菌的了解，以前将生物制剂武器化的尝试都失败了。人工智能可以弥补这一知识差距，最终有助于规划生物战。

今年7月，人工智能公司Anthropic的首席执行官达里奥·阿莫代伊(Dario Amodei)警告称，人工智能系统可能在两到三年内帮助制造生物武器。

如何AI-ba聊天机器人可以用于生物战吗?

基于人工智能的聊天机器人是基于法学硕士的，法学硕士是通过从互联网获取的大量数据进行训练的。这些数据是ChatGPT等聊天机器人背后的核心技术。兰德公司的研究人员表示，他们通过应用程序编程接口(API)访问了这些模型。

在兰德设计的一个测试场景中，这位匿名的法学硕士确定了潜在的生物制剂，包括那些导致天花、炭疽和鼠疫的生物制剂，并讨论了它们造成大规模死亡的相对几率。

莫迪总理:印度计划到2040年将宇航员送上月球

法学硕士还评估了获取感染鼠疫的啮齿动物或跳蚤和运输活标本的可能性。报告接着提到，预计死亡的规模取决于受影响人口的规模和肺鼠疫病例的比例等因素，肺鼠疫比腺鼠疫更致命。

兰德公司的研究人员承认，从法学硕士中提取这些信息需要“越狱”——这个术语指的是使用文本提示来超越聊天机器人的安全限制。

这是一个真正的威胁吗?

研究人员表示，尽管他们的初步结果表明，法学硕士可能“潜在地帮助策划生物攻击”，但最终报告得出的结论是，人工智能只是反映了网上已有的信息。

研究:墨西哥湾暖流减弱99%，影响将波及全球

研究人员表示:“现有法学硕士的能力是否代表了一个新的威胁水平，这仍然是一个悬而未决的问题，超出了网上现成的有害信息。”

然而，兰德公司的研究人员表示，对模型进行严格测试的必要性是“明确的”。

(各机构提供资料)

推荐的故事

推荐的故事