豚牛手游网,重度软件行业发展门户!

文章更新 | 热门文章
您的位置: 首页  →  游戏新闻 → 《马斯克的AI机器人Grok出现“幻觉”生成虚假误导回应

马斯克的AI机器人Grok出现“幻觉”生成虚假误导回应

2023-12-12 16:31:07      小编:IT之家      我要评论

ChatGPT的强劲对手陆续问世,前有谷歌,近日埃隆・马斯克旗下 AI 公司 xAI也 推出了全新的人工智能聊天机器人 Grok,并面向美国地区的 Premium+ X 用户开放。

据官方介绍,Grok 采用了名为 Grok-1 的模型,与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是,Grok 还整合了 X 平台的实时数据,能够根据 X 平台的最新动态提供实时回应,这也是其与其他竞争对手的显著差异之一。

马斯克的AI机器人Grok出现“幻觉”生成虚假误导回应

然而,就像所有 AI 聊天机器人一样,Grok 也存在“幻觉”问题,即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型(LLM)中都普遍存在,包括 ChatGPT。

近日,一个 Grok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 Grok 时收到回应称:“我无法完成您的请求,因为它违反了 OpenAI 的用例政策。”

xAI 工程师 Igor Babuschkin 对此解释道,Grok 在训练过程中使用了大量网络数据,很可能在其中包含由 OpenAI 生成的文本,导致出现了这样的“幻觉”。

马斯克的AI机器人Grok出现“幻觉”生成虚假误导回应

他称:“不过请放心,这个问题非常罕见,我们已经意识到了它,并将确保未来的 Grok 版本不会出现类似的问题。请放心,Grok 的开发没有使用任何 OpenAI 代码。”

如何避免类似事件的发生,以及如何让 AI 聊天机器人更安全、更可信,将是未来 AI 研发的重要课题。

  • 发表评论
资讯排行 资讯中心 热门专区 软件评测
软件排行榜 软件攻略 软件下载 软件开测表
软件排行榜 软件礼包 软件下载 新软件测表
安卓排行榜 软件视频 软件下载
苹果排行榜