第 4 课：AI 会一本正经地胡说八道——幻觉与核查
前三课你大概已经觉得 AI 挺神了。这节课必须泼一盆冷水——AI 会编造信息，而且编得非常像真的。这是用 AI 的人必须知道的第一个"安全须知"。
什么是幻觉？
让 AI 推荐 5 本理财入门书，它列得头头是道，结果其中两本根本不存在；问它某个法律条款，它给出条号和内容，一查全是编的。这种现象叫 AI 幻觉。
重点：它不是偶尔抽风，而是原理决定的。AI 的本职工作是"把话说圆"，不是"保证真实"。它不知道答案时，不会说不知道，而是生成一个"最像答案的答案"。
哪些问题最容易中招？
- 具体的事实：人名、日期、数据、价格、引用出处
- 最新发生的事：模型的知识有截止日期，之后的事它"补"出来的全是编的
- 冷门领域：训练资料越少，编造概率越高
相反，写作、改写、总结你提供的内容、头脑风暴，这些"不依赖外部事实"的任务很安全。
三个保命习惯
- 凡是要对外用的事实，必须核实：医疗、法律、钱相关的，更要去权威渠道确认
- 用联网功能问时效性问题：豆包、Kimi 都支持联网搜索，让它"先搜再答"，并点开它给的来源看一眼
- 直接问它"这里面哪些你不确定？"：经常能让它自己交代
心态调整
正确的用法不是"信 AI"或"不信 AI"，而是：创意和文字工作放心交给它，事实判断永远留给自己。
动手试试
故意考考 AI：问一个你非常熟悉的领域的细节问题（你老家的某条街、你们行业的某个规定），看它答得对不对。亲手抓到一次幻觉，比看十篇文章印象都深。