在生成式人工智能成为主流后不久，研究人员警告说，聊天机器人将带来一个可怕的问题:随着虚假信息变得更容易制造，阴谋论将会猖獗传播。
现在，研究人员想知道聊天机器人是否也能提供一个解决方案。
9月12日发表在《科学》杂志上的一项研究显示，由研究人员设计的人工智能聊天机器人DebunkBot在改变人们的信念方面取得了重大而持久的进展，该机器人可以“非常有效地说服”用户不再相信毫无根据的阴谋论。
事实上，多达一半的美国公众相信错误的理论，并可能产生破坏性的后果，例如不鼓励接种疫苗或助长歧视。
这些新发现挑战了人们普遍认为的事实和逻辑无法对抗阴谋论的观点。建立在ChatGPT技术基础上的揭穿机器人(DebunkBot)可能会提供一种传递事实的实用方法。
“这项研究确实颠覆了我们对阴谋的很多看法，”康奈尔大学(Cornell University)心理学教授、该研究的合著者戈登·彭尼库克(Gordon Pennycook)说。
到目前为止，传统观点认为，一旦有人掉进了阴谋论的兔子洞，再多的争论或解释也无法把这个人拉出来。
该研究的另一位合著者、美国大学(American University)心理学助理教授托马斯·科斯特洛(Thomas Costello)说，人们采用阴谋论是为了满足解释和控制环境的潜在需求。
但科斯特洛和他的同事们想知道是否还有另一种解释:如果揭露的尝试还不够个性化呢?
由于阴谋论因人而异，而且每个人都可能引用不同的证据来支持自己的观点，也许一刀切的揭穿剧本并不是最好的策略。
研究人员认为，一个可以用大量信息反驳每个人的阴谋性选择主张的聊天机器人可能会更有效。
为了验证这一假设，他们在全国招募了2000多名成年人，要求他们详细说明他们相信的一个阴谋，并在0到100的范围内为他们的相信程度打分。
人们描述了各种各样的观点，包括登月是一场表演，新冠病毒是人类为了减少人口而制造的，约翰·f·肯尼迪总统是被中央情报局杀害的。
然后，一些参与者与聊天机器人进行了简短的讨论。他们知道自己在和AI聊天，但不知道讨论的目的。
与会者可自由提出他们认为支持其立场的证据。
例如，一位与会者认为9/11恐怖袭击是“内部工作”，因为喷气燃料燃烧的温度不足以融化世界贸易中心的钢梁。聊天机器人回答说:
文章写道:“普遍的误解是，世贸中心双子塔需要钢铁融化才能坍塌。”“钢在远低于熔点(约2500华氏度)的温度下开始失去强度，变得更柔韧。”
在平均持续约8分钟的三次交流之后，参与者再次评估他们对自己信念的强烈程度。
他们的收视率平均下降了约20%;大约四分之一的参与者不再相信这个谎言。这种影响也影响了他们对其他缺乏证据支持的理论的态度，使参与者总体上不那么相信阴谋论。
乔治·华盛顿大学(George Washington University)的错误信息研究员伊桑·波特(Ethan Porter)没有参与这项研究，他说，聊天机器人与其他错误信息干预的区别在于其效果有多强。
当两个月后对参与者进行调查时，聊天机器人对错误信念的影响保持不变。
波特说:“通常，当我们研究打击错误信息的努力时，我们发现，即使是最有效的干预措施，保质期也很短。”“这次干预并没有发生这种情况。”
研究人员仍在梳理DebunkBot如此有效的确切原因。
麻省理工学院(Massachusetts Institute of Technology)的计算社会科学家、该论文的作者之一戴维·兰德(David Rand)说，在一项未发表的后续研究中，研究人员剔除了聊天机器人的细节(“我很感激你花时间研究了肯尼迪遇刺案”)，得出了同样的结果。研究表明，改变人们想法的是信息，而不是聊天机器人本身。
“真正起作用的是事实和证据本身，”他说。
作者正在探索如何在现实世界中重现这种效应，在现实世界中，人们不一定会寻找与他们的信念相反的信息。
他们考虑过将聊天机器人链接到分享这些观点的论坛上，或者购买广告，当有人搜索与常见阴谋论相关的关键词时，广告就会弹出。
兰德说，对于更有针对性的方法，聊天机器人可能会在医生的办公室里帮助揭穿对疫苗接种的误解。
达特茅斯学院(Dartmouth College)的误解研究人员布伦丹·尼汉(Brendan Nyhan)也没有参与这项研究，他说，他想知道生成式人工智能的名声最终是否会改变，使聊天机器人变得不那么可信，从而降低效率。
“你可以想象这样一个世界，人们看待人工智能信息的方式与看待主流媒体的方式一样，”他说。“我确实想知道人们对这些东西的反应是否有潜在的时间限制。——《纽约时报
×本文来自作者[从安]投稿，不代表乐威号立场，如若转载，请注明出处：https://www.lw2024.cn/wiki/202507-1002.html
评论列表（4条）
我是乐威号的签约作者“从安”！
希望本篇文章《这款聊天机器人帮助人们摆脱阴谋论》能对你有所帮助！
本站[乐威号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：在生成式人工智能成为主流后不久，研究人员警告说，聊天机器人将带来一个可怕的问题:随着虚假信息变得更容易制造，阴谋论将会猖獗传播。 现在，研究人...