随着人工智能(AI)在科技领域的应用越来越多,未来人工智能可能被误用或过度使用的威胁总是若隐若现。为了讨论与人工智能相关的可能威胁,并使技术空间更安全,人工智能安全峰会将于下个月在英国举行。
在峰会召开之前,一家美国智库披露了一个令人担忧的消息。该公司表示,先进的人工智能聊天机器人可以帮助计划使用生物武器的攻击。
地球被整个吞噬,太阳变成了无生气的白色巨人;科学家预测了50亿年后银河系的样子
现在的趋势
-
印度境外最高的安贝德卡雕像在美国揭幕。以下是选择10月14日的原因
-
以色列国防军回应哈马斯人质视频,称试图看起来“人道”,但实际上是“恐怖分子”
-
以色列vs哈马斯:随着战争升级,美军为可能部署在中东的2000名士兵做好了准备
-
巨大的火山彗星带着再生的“角”冲向地球
-
白金汉宫谋杀案:Kareena Kapoor分享了她的处女作的第一张照片
-
俄罗斯撤销批准《全面禁止核试验条约》
-
早间新闻简报:拜登将访问以色列,布鲁塞尔枪击案等
-
同性婚姻判决直播|印度等待历史审判
-
艾丽西亚·凯斯在支持哈马斯的指控中澄清了她的滑翔伞
-
吉吉·哈迪德(Gigi Hadid)在Instagram上发布的以色列-哈马斯战争帖子让以色列感到不安
-
俄罗斯在卡塔尔遣返协议中遣返了四名乌克兰儿童
-
比利时对瑞典的欧洲杯预选赛在布鲁塞尔发生枪击事件后暂停
-
粉红衬衫在SXSW悉尼首映,制造商欢迎积极的反应
-
以色列-哈马斯战争实况:内塔尼亚胡,Bl以色列特拉维夫市空袭警报响起时,因肯躲在地堡里
-
以色列-哈马斯战争:拜登将于周三访问以色列,安东尼inken
这项研究由兰德公司(Rand Corporation)于周一发布。该组织测试了几个大型语言模型(llm),发现它们可以为“协助策划和执行生物攻击”提供指导。
人工智能在生物攻击计划中的作用
该报告说,由于缺乏对细菌的了解,以前将生物制剂武器化的尝试都失败了。人工智能可以弥补这一知识差距,最终有助于规划生物战。
今年7月,人工智能公司Anthropic的首席执行官达里奥·阿莫代伊(Dario Amodei)警告称,人工智能系统可能在两到三年内帮助制造生物武器。
如何AI-ba聊天机器人可以用于生物战吗?
基于人工智能的聊天机器人是基于法学硕士的,法学硕士是通过从互联网获取的大量数据进行训练的。这些数据是ChatGPT等聊天机器人背后的核心技术。兰德公司的研究人员表示,他们通过应用程序编程接口(API)访问了这些模型。
在兰德设计的一个测试场景中,这位匿名的法学硕士确定了潜在的生物制剂,包括那些导致天花、炭疽和鼠疫的生物制剂,并讨论了它们造成大规模死亡的相对几率。
莫迪总理:印度计划到2040年将宇航员送上月球
法学硕士还评估了获取感染鼠疫的啮齿动物或跳蚤和运输活标本的可能性。报告接着提到,预计死亡的规模取决于受影响人口的规模和肺鼠疫病例的比例等因素,肺鼠疫比腺鼠疫更致命。
兰德公司的研究人员承认,从法学硕士中提取这些信息需要“越狱”——这个术语指的是使用文本提示来超越聊天机器人的安全限制。
这是一个真正的威胁吗?
研究人员表示,尽管他们的初步结果表明,法学硕士可能“潜在地帮助策划生物攻击”,但最终报告得出的结论是,人工智能只是反映了网上已有的信息。
研究:墨西哥湾暖流减弱99%,影响将波及全球
研究人员表示:“现有法学硕士的能力是否代表了一个新的威胁水平,这仍然是一个悬而未决的问题,超出了网上现成的有害信息。”
然而,兰德公司的研究人员表示,对模型进行严格测试的必要性是“明确的”。
(各机构提供资料)
推荐的故事
-
比利时:布鲁塞尔枪击事件造成两人死亡;疑犯在逃
-
哥伦比亚要求以色列特使“道歉并离开”,此前哥伦比亚批评了佩特罗总统关于与哈马斯开战的言论
-
史密斯会对贾达·平克特·史密斯的重磅炸弹回忆录打破沉默吗
-
世界十大新闻:加沙援助被困与埃及边境,以色列准备两线作战?和更多的
-
观看|以色列国防军发布了哈马斯激进分子袭击以色列人家园的视频
-
前世界小姐被告Sherika De Armas死于宫颈癌,享年26岁
-
在仪仗队的争吵中,印度军队称阿格尼维尔·阿姆里帕尔·辛格自杀了
-
巴以战争:拜登称以色列占领加沙将是“大错误”
-
2023年世界杯:印度队长罗希特·夏尔马分享了在对巴基斯坦的比赛中展示肌肉的原因
-
鲍比·德尔表示,他将在余生中继续“感谢”萨尔曼的第三场比赛
-
研究表明,多喝咖啡可能对你有好处
-
解释:哈马斯在加沙的神秘隧道对以色列构成了挑战
-
shai Louk,被哈马斯从音乐节上绑架,并裸体示众母亲证实他在加沙还活着
-
ICC世界杯2023直播:9天前!以下是如何在你的国家观看世界杯
推荐的故事
-
比利时:布鲁塞尔枪击事件造成两人死亡;疑犯在逃
哥伦比亚要求以色列特使“道歉并离开”,此前哥伦比亚批评了佩特罗总统关于与哈马斯开战的言论
史密斯会对贾达·平克特·史密斯的重磅炸弹回忆录打破沉默吗
世界十大新闻:加沙援助被困与埃及边境,以色列准备两线作战?和更多的
-
观看|以色列国防军发布了哈马斯激进分子袭击以色列人家园的视频
前世界小姐被告Sherika De Armas死于宫颈癌,享年26岁
在仪仗队的争吵中,印度军队称阿格尼维尔·阿姆里帕尔·辛格自杀了
巴以战争:拜登称以色列占领加沙将是“大错误”
-
2023年世界杯:印度队长罗希特·夏尔马分享了在对巴基斯坦的比赛中展示肌肉的原因
鲍比·德尔表示,他将在余生中继续“感谢”萨尔曼的第三场比赛
研究表明,多喝咖啡可能对你有好处
解释:哈马斯在加沙的神秘隧道对以色列构成了挑战