由 jpichiban Fri, 08 Nov 2024 23:21:29 GMT
在这张照片插图中，OpenAI的标志显示在一部手机屏幕上，旁边是OpenAI首席执行官Sam Altman的照片。
Didem Mente | Anadolu | 盖蒂图片社
OpenAI在周五的一篇博客中表示，该公司估计在选举日前夕，ChatGPT拒绝了超过25万次生成2024年美国总统候选人图像的请求。这些被拒绝的请求包括涉及当选总统唐纳德·特朗普、副总统卡玛拉·哈里斯、总统乔·拜登、明尼苏达州州长蒂姆·沃尔兹以及当选副总统JD·万斯的图像生成请求。
生成式人工智能的兴起引发了关于利用该技术制造的错误信息可能如何影响2024年世界各地众多选举的担忧。根据机器学习公司Clarity的数据，深度伪造的数量同比增长了900%。美国情报官员表示，其中一些视频是由试图干扰美国选举的俄罗斯人创建或付费制作的。
在10月份的一份54页报告中，OpenAI表示已破坏了“来自世界各地的超过20个试图使用我们模型的操作和欺骗网络”。该公司写道，这些威胁从AI生成的网站文章到假账户在社交媒体上的帖子不等。报告指出，这些与选举相关的操作均未能吸引“病毒式传播”。
在周五的博客中，OpenAI表示尚未看到任何证据表明旨在利用该公司产品影响美国选举结果的秘密行动能够成功实现病毒式传播或建立“持续的受众”。
立法者尤其担心在生成式AI时代（该技术于2022年底随着ChatGPT的发布而兴起）的错误信息。大型语言模型仍然较新，并且经常输出不准确和不可靠的信息。
“选民绝对不应该向AI聊天机器人寻求有关投票或选举的信息——关于准确性和完整性的担忧实在太多，”民主与技术中心首席执行官亚历山德拉·里夫·吉文斯上周告诉CNBC。
观看：在特朗普第二任期内，AI可能面临较少监管且更加波动
视频1:29 / 01:29
在特朗普第二任期内，AI可能面临较少监管且更加波动
TechCheck
原文链接：https://www.cnbc.com/2024/11/08/chatgpt-blocked-250000-image-generations-of-presidential-candidates.html