AI为什么会一本正经地胡说八道?
作者：微信文章现下很多人在使用AI的过程之中，遇到了一个很尴尬的问题，那就是AI有时在一本正经地胡说八道。
AI回答的言辞说得很真切详尽的样子，但里面关键的信息或数据却是错误的，极具误导性。
我前不久拿AI去搜过某些领域的书籍，其中给出的要求就是，书籍要是近10年出版的，并且要容易购买到。
结果我循着AI推荐的书籍去查，结果一大半在各大电商平台上都搜索不到，而且我自己去网上查，发现出版日期也对不上。
为了进一步确认，我更改prompt 的描述方式，多次询问DeepSeek，发现回答的准确性依然提高不上来。
为什么会这样？
其实问题的根源很简单，就是AI本身没有办法清楚地辨别他所搜集到的信息或数据的准确性。
就像一个人到网上去搜索信息，最后搜出一大堆不同的说法或是数据。
那么，如果他没有相关的专业知识，就很难辨别哪个信息或数据的可靠性更高，还是说全都不可靠。
一个人尚且如此，更何况是当下还远比不上人推理能力的AI？前不久，我听到一个很有趣的言论说，现在有了AI，可以预判股市，赚钱是很容易的事了。
我只能讲，这是无稽之谈。
首先，AI的推理能力目前还远达不到一个普通人的程度，只是AI拥有不用学习就可以掌握的庞大信息库。
再则，AI所拥有的信息库都是公开的讯息，不可能存在对股市有“先见之明”的内幕消息。
最后，如果AI真能准确预测股市，那么人人都可以赚到钱，而人人都能赚到钱，哪有这种事情？
有人赚，那就必须有人亏，而且亏的更多，因为中间还有交易的费率，国家的税收。
说到底，哪怕如今AI看似迭代发展的速度很快，但也仅仅局限于标准化的领域。
也就是说，对于有明确又准确规则的事情，它可以做的很好，但如果面对非标准化、模凌两可的事情，它大概率是要“胡说八道”的。
那AI“胡说八道”是不是不好？
不见得，如果AI对任何事的见解都赶得上这个世界上专业领域的顶尖人才，那就不是我们的工作要被代替这么简单的事情了。
因为，人类即将不复存在……
页:
[1]