科学家首次用数学证明AI致命弱点 无法开发稳定算法
2024-01-25 16:31:45 小编:IT之家 我要评论
如今AI大潮愈演愈烈,似乎无所不能,不过日前哥本哈根大学的研究人员在世界上首次用数学方法证明,在各种基础问题之上,不可能开发出始终稳定的人工智能算法。
哥本哈根大学的研究人员已经证明,处理复杂问题的完全稳定机器学习算法近乎无法实现,这凸显了对人工智能局限性。
以 ChatGPT 为代表的 AI 浪潮下,机器能比医生更准确解读医学扫描图像、能比人类更安全地驾驶汽车,但再优秀的算法也存在弱点。
以自动驾驶汽车读取路标为例,如果有人在路标上贴有标签,人类驾驶员的注意力通常不会被分散,而机器由于和接受训练的路标存在差异,很容易出现分心。
该小组负责人阿米尔・耶胡达约夫(Amir Yehudayoff)教授说:“现实生活中存在着各种各样的噪音,人类习惯于忽略这些噪音,而机器却会感到困惑”。