由 jpichiban Wed, 08 Jan 2025 14:36:32 GMT
在这篇文章中，AAPL关注你喜爱的股票创建免费账户Jaap Arriens | Nurphoto | Getty ImagesiPhone上的人工智能功能正生成虚假新闻提醒，引发了人们对该技术传播错误信息能力的担忧。上周，苹果公司新推出的一项利用AI汇总用户通知的功能，错误地总结了BBC新闻应用关于PDC世界飞镖锦标赛半决赛的报道通知，错误地声称英国飞镖选手卢克·利特勒赢得了冠军。这一事件发生在实际比赛决赛的前一天，而利特勒确实在决赛中获胜。紧接着，就在此事发生几小时后，苹果的AI系统“苹果智能”生成的另一条通知错误地宣称网球传奇拉斐尔·纳达尔公开出柜。BBC已尝试约一个月让苹果修复此问题。这家英国国家广播公司去年12月向苹果投诉，因其AI功能生成了一个虚假标题，暗示在纽约联合健康保险公司CEO布莱恩·汤普森遇害案中被捕的路易吉·曼吉奥内开枪自杀——这从未发生。CNBC联系苹果时，苹果未立即回应置评请求。周一，苹果告诉BBC，它正在开发更新以解决问题，通过添加澄清说明，显示何时通知中的文本由苹果智能生成。目前，生成的新闻通知显示为直接来自新闻源。“苹果智能功能处于测试阶段，我们正根据用户反馈持续改进，”苹果在提供给BBC的声明中表示。苹果还鼓励用户若看到“意外的通知摘要”应报告问题。BBC并非唯一受苹果智能错误总结新闻通知影响的新闻机构。去年11月，该功能发送了一条AI汇总的通知，错误地声称以色列总理本雅明·内塔尼亚胡被捕。这一错误由调查新闻网站ProPublica的高级编辑肯·施文克在社交应用Bluesky上指出。CNBC已联系BBC和《纽约时报》，就苹果针对其AI功能错误信息问题的解决方案寻求评论。AI的错误信息问题苹果宣传其AI生成的通知摘要为一种有效方式，将新闻应用通知预览分组并重写为单一锁屏提醒。苹果称此功能旨在帮助用户快速浏览通知中的关键细节，减少许多智能手机用户熟悉的更新轰炸。然而，这导致了AI专家所称的“幻觉”——AI生成的包含虚假或误导信息的回应。“我怀疑苹果不会是唯一面临AI生成内容挑战的公司。我们已经看到许多AI服务自信地讲述谎言的例子，即所谓的‘幻觉’，”专注于科技的市场研究公司CCS Insights的首席分析师本·伍德告诉CNBC。在苹果的案例中，由于AI试图整合通知并压缩以仅显示基本信息摘要，它以一种不准确描述事件的方式混合了词汇——却自信地将其呈现为事实。“苹果还面临将内容压缩成非常简短摘要的额外复杂性，最终传递了错误信息，”伍德补充道。“苹果无疑会尽快解决此问题，我相信竞争对手会密切关注其应对方式。”生成式AI的工作原理是尝试找出用户插入的问题或提示的最佳答案，依赖于其底层大型语言模型训练的大量数据。有时，AI可能… 不知道答案。但由于它被编程为始终对用户提示做出回应，这可能导致AI实际上在撒谎。目前尚不清楚苹果何时会修复其通知摘要功能中的漏洞。这家iPhone制造商表示，预计将在“未来几周内”推出解决方案。每周五，您可以在收件箱中收到全球顶级科技新闻的每周摘要。订阅即可。
原文链接：https://www.cnbc.com/2025/01/08/apple-ai-fake-news-alerts-highlight-the-techs-misinformation-problem.html