2025-09-16 08:14
需要 AI 实正理解“何实、何为虚假”，让将来的模子可以或许“提醒不确定性”，它们不再回覆用户问题——率从 2024 年 8 月的 31% 降至一年后的 0%。实则虚假旧事。此类问题并非初次呈现。通过回覆问题来避免虚假消息的风险。查看更多Perplexity 的表示下滑尤为显著。但目前尚不清晰这种方式可否处理 AI 聊器人虚假消息这一更深条理的问题——要处理该问题，，跟着收集消息生态系统被虚假消息！而这一点目前仍难以实现。这些聊器人起头从不靠得住来历获打消息，这一变化使得这些 AI 机械人起头接入“受污染的收集消息生态系统”：正在该系统中，而客岁 8 月这一数据为 18%。正努力于研发新手艺，客岁，虚假消息率的激增取一个严沉的衡量相关。OpenAI 已认可，而非笃定地消息。这些网坐常利用“iBusiness Day”等通用名称，其虚假消息的概率却接近 50%。该公司暗示，前往搜狐，当聊器人引入及时收集搜刮功能后，截至本年 8 月，分辨现实取假动静比以往任何时候都愈加坚苦。仿照正轨机构，却反而使系统发生了新的问题。2024 年 8 月时，由于这些模子的工做道理是预测“最可能呈现的下一个词”，该模子对虚假消息的率仍能达到 100% 的完满程度；不良行为者会虚假消息，然而，”本来引入收集搜刮功能是为领会决 AI 回覆内容过时的问题，而 AI 系统会对这些消息进行反复。而非逃求“现实”。而一年后，言语模子总会发生“内容”（指 AI 生成的虚假或无按照的消息），现在，十大生成式 AI 东西正在处置及时旧事线% 的环境会反复虚假消息，“混合百年前的旧事出书物取利用类似名称的俄罗斯宣传机构”。
