埃隆·马斯克的社交媒体应用程序X在人工智能的帮助下加速了选民欺诈阴谋论的传播,助长了一些毫无根据的说法,包括两起针对副总统卡玛拉·哈里斯的个人诽谤。
这些可疑的内容正在该应用的“探索”部分传播,该部分表示,它使用马斯克的人工智能软件Grok来聚合社交媒体热门话题。这些信息似乎没有经过人类的事实核查,在最近的几个例子中,它似乎重复了错误或未经证实的说法,就好像它们是真的一样。
这个功能被命名为“给你的故事”,标签上写着这是一个beta测试,这意味着这是一个实验,并不是所有用户都可以使用。每个“给你的故事”都由与热门话题相关的帖子组成。在桌面版的X上,如果用户查看“给你的故事”的历史记录,他们还可以看到Grok软件编写的一段主题摘要。
在总统大选的最后几周,该功能被放置在X的探索部分,这让它在数字领域占据了突出的位置,马斯克在大选中支持前总统唐纳德·特朗普。它一再夸大与选举有关的错误信息和阴谋论,此前马斯克曾多次在现场露面和社交媒体上分享类似的想法。
在过去的一周里,美国全国广播公司新闻频道(NBC News)确定了五个“给你的故事”,这些故事推动了与选举有关的毫无根据的说法。
Grok策划的每个热门话题都包含一个警告,声明不对准确性负责,并告诉用户自己核实事实:“Grok可能会犯错误,请验证其输出,”免责声明说。
周一,格洛克不加批判地重申了与投票机公司Dominion voting Systems有关的不当行为指控。Grok制作了一个“给你的故事”,题为“公众对Dominion投票系统的监督”,其中汇集了指责该公司“操纵选举”和“欺诈”的帖子。Dominion此前曾谴责类似的指控是谎言,去年福克斯新闻(Fox News)同意支付7.875亿美元,以了结Dominion提起的诽谤诉讼。
Grok对网上辩论的书面总结指责Dominion通过“法律威胁”“可能扼杀有关选举安全的合法讨论”。
周三,格罗克在亚利桑那州马里科帕县重复毫无根据的不当行为指控,助长了一名X用户的说法,即该县的选举工作人员“腐败”,因为他们清点选票的速度太快。
本周,在第三个与选举有关的“给你的故事”中,格罗克散布了一个未经证实的说法,即德克萨斯州塔兰特县的一台投票机正在“翻转”选票。X某的人工智能软件发布了声称有多个例子的帖子,但只有一名选民站出来,他的说法没有得到证实。当地官员表示,他的说法没有证据支持,这表明他可能无意中给了错误的候选人施压。他们说,在他检查了选票后,他能够成功地投出他打算投的票。
格洛克还散布了对民主党总统候选人哈里斯的诽谤。它创建了一个“给你的故事”,重复X用户毫无根据的指控,称她在白宫使用可卡因,它创建了一个“给你的故事”,重复X用户的指控,称她参加了肖恩·“吹牛老爹”·库姆斯(Sean“Diddy”Combs)举办的派对,后者正面临联邦性侵犯指控。事实核查员表示,库姆斯与时装设计师米莎·希尔顿的照片被修改后加入了哈里斯的脸。
一些由Grok聚合的帖子有数百万的浏览量,尽管目前还不清楚大部分浏览量是在Grok将这些帖子纳入趋势功能之前还是之后。
特斯拉和SpaceX的首席执行官马斯克也分享了一些被他的Grok软件放大的阴谋论,包括与Dominion Voting Systems有关的毫无根据的不法行为指控。
根据彭博亿万富翁指数,马斯克是世界上最富有的人,他已经向一个支持特朗普的超级政治行动委员会投入了近7500万美元,他还在战场州宾夕法尼亚州穿梭,以吸引支持特朗普的选民登记,并让他们去投票,每天赠送100万美元来吸引人们的注意。
美国全国广播公司新闻频道(NBC News)就其“给你的故事”栏目向X寻求评论。X的代表没有回复通过电子邮件发送的一系列问题。
Dominion Voting Systems的一位发言人没有立即对X的“给你的故事”功能发表评论,但指出了一个公司网站,该网站捍卫了公司系统的准确性。
哈里斯竞选团队的代表没有回应置评请求。
该功能在过去一直存在问题。7月,格鲁克撰写的摘要助长了有关乔·拜登(Joe Biden)总统的虚假信息,帮助传播了一些疯狂的阴谋论,比如拜登患有未公开的紧急医疗状况、可能即将死亡、已被谋杀或即将被谋杀。
就在两年前,在马斯克收购当时被称为Twitter的应用程序之前,这项工作还曾由人类管理员完成。2015年,Twitter管理层推出了精心策划的热门话题,以帮助用户理解应用程序上的大量信息。Twitter员工添加了来自美联社(the Associated Press)和路透社(Reuters)等传统新闻来源的经过验证的背景,试图提高热门信息的质量。
但马斯克在收购Twitter后的第一批行动之一,就是取消了人类策展人的工作,现在这位科技亿万富翁把这项任务委托给了他的人工智能软件。
马斯克经常批评包括美联社(Associated Press)和路透社(Reuters)在内的传统新闻媒体,他将X宣传为互联网上最值得信赖的新闻来源,尽管那里出现了事实错误、阴谋论和被揭穿的说法。
几个月前,X推出了人工智能撰写摘要的实验,尽管它没有受到多少关注,但一些用户很快就对他们在应用程序“探索”部分的beta测试中看到的grok撰写的文本表示了警惕。今年4月,一位Reddit用户将热门话题总结比作滚动“无脑人工智能骰子”。今年7月,一名X用户发布了一张“探索测试版”的截图,并附上文字,声称拜登将成为英格兰国家足球队的下一任教练。
最近几周,数十名X用户发布了关于“探索测试版”的帖子,其中绝大多数都是负面的。一名用户说这毫无意义,另一名用户说这是“绝对的垃圾”。但一些人表示,他们知道没有办法退出beta测试。
目前尚不清楚有多少人看到了人工智能生成的摘要。一些浏览应用热门话题的X用户只看到热门话题的排名列表,没有人工智能生成的文本。目前还不清楚X是否计划将Grok摘要从beta测试扩展到标准功能。