用豆包预约餐厅,然后豆包说“约好了”,结果到了餐厅压根没有预定,店员还回复说“你找豆包预约那你找豆包啊。”
因为AI所导致的“乌龙”,近日就真的发生在现实了。
一边是豆包满口答应说订好了还祝用户“用餐愉快”,另一边则是用户的碰壁和商家的一脸懵。这件“乌龙”的背后,看上去是豆包惹的祸,其实是当下AI发展中人与AI之间所存在的认知误差。

首先说说豆包回复用户“预留位子”这个事儿,从实际情况上来看,要不是豆包已经发展到有自我意识,就是又一次一本正经的胡说八道。先不说豆包能不能有自我意识但是受限于能力,更大概率其实应该是豆包大模型在抓取各种订餐场景的信息时把预定座位的对话模式也学了进去,当用户提出了问题,豆包就按照抓取的信息进行了回答,但实际上什么实事儿都没干。

如果从AI大模型的技术角度来看,这就是AI的一次幻觉,和其他的胡说八道并没有什么不同,但是出现在订座场景下同时用户又信了,所以才会闹出这样的“乌龙”。
说到这里,还有一个很重要的问题,就是为什么用户会“相信”?
这就要和如今大肆渲染的“AI能干活”的舆论有关系了。其实作为普罗大众而言,对于AI的认知和实际技术层面的确已经存在误差。
作为一般用户,最重要的是要区分清楚像豆包、千问和元宝这样的生成式大模型,和openclaw龙虾这样的Agent之间的区别。
简单来说,生成式大模型目前主要的功能其实就是搜集网络上的信息然后通过更友好的对话模式,用更精准的方式进行回答,背后的逻辑还是基于现有的网络信息,只是回答起来觉得它头头是道,但是生成式大模型的底线和边际,就是只提供答案,但不解决问题。
龙虾之所以火,最大的原因就是它能真的干活儿。作为Agent,龙虾可以在接到用户像“订座”这样的指令后,通过对接各种应用的接口,去真正的完成“订座”这件事。
以目前打通了淘宝的千问为例,就算用户如何仔细描述需求然后让千问帮忙购物,最后千问给出的也只是根据用户需求搜出来的淘宝“宝贝”链接,至于真正的下单支付,还是要用户手动完成。但是对于龙虾而言,如果用户开放了支付权限的话,要让它买啥你就直接等快递就行了。
所以可以看出来,这次让豆包订座的用户,其实是把豆包当龙虾使了,然后豆包又出现幻觉胡说八道,造成了这次的“乌龙”。

如今AI的发展速度的确日新月异,加上舆论和企业本身对技术的吹捧不遗余力,造成大众对AI这个宽泛的概念缺乏足够的认知,这也成为了AI时代发展过程中的一个不小的问题。当技术飞速发展,人与AI共存搭档的机会越来越多,AI素养的话题应该也要引起重视,否则“乌龙”也会越来越多。
南方+记者 叶丹