我问答网
有问必答

为什么人工智能有时候会胡说八道?这事儿得从根儿上聊

你有没有遇到过这种情况——问某个人工智能一个特简单的问题,它给你编得头头是道,结果一查,全是瞎扯。😅

上周我问我常用的那个AI助手:“马斯克哪年买下推特的?”它特自信地告诉我:2019年。还给我补了一堆细节,什么董事会投票、什么收购金额。我差点就信了。结果呢?2022年的事。差了整整三年。

这不是个例。圈内管这叫“幻觉”。听着挺玄乎,说白了就是——它在理直气壮地编。

人工智能大模型幻觉错误示例聊天截图
人工智能大模型幻觉错误示例聊天截图

它不是在“撒谎”,它是在“填空”

很多人以为AI胡说八道是故意的。不是。它压根儿不知道自己在胡说。

我打个比方。你小时候做那种填空题——“床前明月光,疑是地上____”。你会怎么填?肯定填“霜”对吧。因为你背过。

但如果你没背过这首诗呢?你会根据“光”这个韵脚,根据前面“明月”的意境,猜一个顺口的词。可能是“霜”,也可能是“光”本身,甚至可能是“香”。

AI干的就是这事儿。它本质上是一个超级填空机。你给它上半句,它根据海量数据里的统计规律,算出下半句最可能是什么词。一个词一个词往外蹦,蹦着蹦着,一篇像模像样的回答就出来了。

问题在于——它只关心“像不像”,不关心“对不对”。

所以当它不知道马斯克哪年买推特的时候,它会根据“马斯克”“推特”“收购”这些词的常见搭配,生成一个看起来最顺溜的年份。2019、2020、2022,对它来说都是概率。它选了一个概率也不低的,然后就用特别笃定的语气说出来了。

这就像你问一个特别会聊天但完全不看新闻的朋友:“哎,那谁和那谁是不是离婚了?”他可能特自信地跟你分析半天,其实他连人家结婚没结婚都不知道。😂

大语言模型概率预测下一个词示意图
大语言模型概率预测下一个词示意图

为什么这个毛病这么难治?

为什么这个毛病这么难治?
为什么这个毛病这么难治?

说实话,这事儿比想象中棘手得多。

你想啊,AI的训练数据是海量的互联网文本。里面本来就有大量错误信息、过时信息、甚至故意编的段子。它把所有这些都吃进去了。你没法儿跟它说:“哎,这条是假的,别学。”

更麻烦的是,AI的“自信”和“正确”之间没有必然联系。它说“地球是圆的”和说“地球是平的”,用的语气可能一模一样。因为它生成这两句话的机制完全相同——都是根据前文预测下一个最可能的词。至于这个词在现实世界里对不对……它没有那个校验环节。

有些团队试图用“检索增强”来治这个病。就是让AI先上网搜一圈,再根据搜到的真实资料来回答。这招确实管用,能大幅降低幻觉率。但它也不是万能的——搜到的资料本身也可能是错的,对吧?

还有人在搞“自我校验”,让AI自己检查自己。听着挺美,实际上经常是——它把自己编的东西又确认了一遍,然后更自信了。😅 这就有点黑色幽默了。

那作为普通用户,我们该怎么办?

那作为普通用户,我们该怎么办?
那作为普通用户,我们该怎么办?

说几个我自己在用的笨办法。

第一,把AI当实习生,别当权威。它能帮你快速整理思路、生成草稿、翻译个东西,这些都挺好。但凡是涉及具体事实、数据、年份、人名、法规条款的,一律自己再查一遍。别偷这个懒。

第二,学会看它的“语气”。这听起来有点反直觉——越是斩钉截铁的回答,越要多留个心眼。因为AI的确定性语气和它的准确率之间,相关系数低得可怜。反倒是有时候它说“据我所知”“可能”“大概”的时候,还稍微靠谱一点。虽然也不一定。

第三,换个问法试试。比如你问“马斯克哪年买下推特的”,它可能胡编。但你问“2022年发生了哪些科技圈大事件”,它列出来的内容里可能就包含正确的信息。因为后一种问法给了它更多的上下文锚点。这招不一定每次都灵,但值得一试。

第四,重要的事情,别只问一个AI。多问几个,交叉验证。虽然它们可能犯同样的错误——毕竟训练数据有重叠——但至少能帮你发现一些明显的矛盾。

说到底,人工智能现在就是个能力很强但不太靠谱的助手。它能把你的效率提升好几倍,也能把你带沟里去。关键在于你怎么用它。

别神化它,也别一棍子打死。该用用,该查查。就这么简单。

哦对了,最后说一句——我写这篇文章的时候,特意没让AI帮我查任何事实。😉 所有年份、数据、观点,都是我自己的判断和记忆。万一有错……那说明我也该被“打假”了。欢迎指正。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:为什么人工智能有时候会胡说八道?这事儿得从根儿上聊
文章链接:https://m.wowenda.cn/a/64477.html