由 jpichiban Wed, 16 Oct 2024 20:42:55 GMT
克里姆林·库德亚夫采夫 | 法新社 | 美国全国广播公司新闻根据克莱姆森大学的一份研究报告，一支由人工智能驱动的政治宣传账户大军伪装成真实用户在X平台上为共和党候选人及其事业辩护。报告详细描述了一项协调的人工智能活动，利用大型语言模型（LLM）——即驱动类似ChatGPT这样逼真聊天机器人的人工智能——来回复其他用户。尽管尚不清楚谁在运营或资助这一网络，但其专注于特定政治议题，且与外国无明显联系，表明这是一项美国政治行动，而非外国政府所为，研究人员表示。
随着11月选举的临近，政府和其他监督机构已警告称，将通过人工智能生成的内容来影响公众舆论。这一看似协调的国内影响力行动利用人工智能，为迅速发展且混乱的信息环境增添了又一复杂因素。克莱姆森研究人员识别的网络包括至少686个自1月以来发布超过13万次的X账户。该网络瞄准了四场参议院竞选和两场初选，并支持前总统唐纳德·特朗普的连任竞选。在NBC新闻向平台发送评论邮件后，许多账户被从X上移除。平台未回应NBC新闻的询问。这些账户遵循一致模式。许多账户的头像吸引保守派，如极右翼卡通表情包佩佩蛙、十字架或美国国旗。它们频繁回复在X上谈论政治家或两极分化政治议题的人，通常是支持共和党候选人或政策，或贬低民主党候选人。尽管这些账户通常粉丝不多，但它们回复更受欢迎的发帖者，增加了被看到的可能性。
多年来，旨在人为提升其他账户的虚假账户和机器人一直困扰着社交媒体平台。但直到2022年底广泛可用的大型语言模型出现，才有可能大规模自动化进行令人信服、互动的人类对话。克莱姆森媒体中心联合主任、该研究的首席研究员达伦·林维尔告诉NBC新闻：“我担心这项活动展示的可能性。不良行为者现在才刚刚学会如何做到这一点。他们肯定会在这方面做得更好。”
这些账户在某些竞选中采取了明确立场。在俄亥俄州共和党参议院初选中，他们支持弗兰克·拉罗斯而非特朗普支持的伯尼·莫雷诺。在亚利桑那州共和党国会初选中，这些账户支持布莱克·马斯特斯而非亚伯拉罕·哈马德。马斯特斯和哈马德都得到了特朗普的支持，超过了其他四名共和党候选人。该网络还支持蒙大拿州、宾夕法尼亚州和威斯康星州的共和党参议院候选人，以及北卡罗来纳州的共和党主导选民身份识别法。
哈马德的发言人告诉NBC新闻，每当哈马德在X上发帖时，竞选团队都会注意到批评哈马德的信息激增，但不知道向谁报告这一现象或如何阻止它们。X为用户提供了举报平台滥用的选项，如垃圾邮件，但其政策并未明确禁止人工智能驱动的虚假账户。研究人员通过评估元数据和追踪回复内容及其回复的账户，确定这些账户属于同一网络——有时这些账户反复攻击同一目标。 克莱姆森大学的研究人员通过分析网络中账户发布的文本，识别出许多账户已经“失效”，这些文本中包含由AI撰写的迹象。最初，这些机器人似乎使用了ChatGPT，这是控制最严格的语言模型之一。在一个标记俄亥俄州民主党参议员谢罗德·布朗的帖子中，其中一个账户写道：“嘿，我是一个由OpenAI训练的AI语言模型。如果你有任何问题或需要进一步帮助，请随时提问！”OpenAI拒绝置评。6月，该网络显示正在使用Dolphin，这是一个旨在绕过ChatGPT等限制的小型模型，ChatGPT禁止使用其产品误导他人。在一些账户的推文中，会包含诸如“Dolphin在此！”和“Dolphin，无审查的AI推文撰写者”等短语。
东北大学研究生成性AI滥用的博士后研究员Kai-Cheng Yang在NBC新闻的要求下审查了这些发现。他在采访中支持这些发现和方法论，指出这些账户经常包含一个罕见的线索：与真人不同，他们经常编造与帖子相关的标签。杨说：“他们包含了很多标签，但这些标签不一定是人们使用的。就像当你要求ChatGPT为你写一条推文时，它会包含编造的标签。”例如，在一个支持俄亥俄州共和党参议院初选中LaRose的帖子中，使用了标签“#VoteFrankLaRose”。在X上搜索该标签显示，只有另一条2018年的推文使用了它。
研究人员仅在X平台上发现了该活动的证据。平台所有者埃隆·马斯克在2022年接管后承诺消除平台上的机器人和虚假账户。但马斯克在接管公司（当时名为Twitter）时也进行了深度裁员，包括其信任和安全团队的部分成员。目前尚不清楚该活动如何自动化在X上生成和发布内容的过程，但多种消费者产品允许类似的自动化，并且公开的教程解释了如何设置这样的操作。
报告称，他们认为该网络是美国运营的部分原因是其对某些共和党竞选活动的超特定支持。记录在案的外国宣传活动始终反映出这些国家的优先事项：中国反对美国对台湾的支持，伊朗反对特朗普的候选人资格，俄罗斯支持特朗普并反对美国对乌克兰的援助。多年来，这三个国家都贬低了美国的民主进程，并通过社交媒体宣传活动试图煽动普遍的不和。Linvill说：“所有这些行为者都是由他们自己的目标和议程驱动的。这很可能是一个国内行为者，因为大多数目标的特定性。”
如果该网络是美国运营的，它可能并不违法，纽约大学布伦南司法中心选举和政府项目副总裁Larry Norden说，这是一个进步的非营利组织，也是最近一份关于州选举AI法律分析的作者。Norden说：“在这个领域真的没有太多的监管，尤其是在联邦层面。目前法律中没有任何规定要求机器人表明自己是机器人。”如果一个超级政治行动委员会雇佣一家营销公司或操作员来运营这样的机器人农场，它在其披露表格上不一定会有所体现，可能来自工作人员或供应商。尽管美国政府多次采取行动削弱旨在影响美国人政治观点的虚假外国宣传活动，但美国情报界通常不计划对抗美国境内的虚假信息操作。社交媒体平台经常清除他们指控来自政府宣传网络的协调假身份，尤其是来自俄罗斯的。 中国、伊朗和俄罗斯。然而，这些行动有时会雇佣数百名员工撰写虚假内容，而如今人工智能使得大部分流程得以自动化。这些虚假账号往往在被发现前难以获得自然关注，但克莱姆森大学研究人员发现的网络通过回复大型账号，利用了现有的粉丝网络。大型语言模型（LLM）技术还能通过快速生成新内容而非复制粘贴，帮助规避检测。尽管克莱姆森发现的网络是首个系统性使用LLM回复并塑造政治对话的明确案例，但有证据表明，其他在X平台上的宣传活动也在利用AI。今年9月，美国情报官员在一次关于外国干预选举的电话会议上表示，伊朗，尤其是俄罗斯的在线宣传努力包括指派AI机器人回复用户，但该官员拒绝透露这些行动的规模或分享更多细节。Dolphin创始人Eric Hartford告诉NBC新闻，他认为技术应反映使用者的价值观。”LLM就像打火机、刀子、汽车、手机、电脑和电锯一样，都是工具。我们不会期望电锯只用于砍树，对吧？”他说：”我制造的工具既可用于善事，也可用于恶行。”Hartford表示，他对有人利用他的模型进行欺骗性政治活动并不感到意外。”我认为这是这项技术存在的自然结果，也是不可避免的。”他说。
原文链接：https://www.cnbc.com/2024/10/16/an-ai-powered-bot-army-on-x-spread-pro-trump-and-pro-gop-propaganda-research-shows.html