幻觉

它为什么会发生？

AI 的工作原理决定了它天生倾向于"给出一个看起来合理的回答"，而不是坦诚地说"我不知道"。当它遇到一个超出它知识范围的问题时——比如一个它没有学到过的函数名，或者一个在它训练数据截止之后才发布的工具版本——它不会停下来，而是会拼凑出一个语法正确、逻辑通顺、但事实上完全是杜撰的回答。

这不是 AI 在故意欺骗你。它只是按照自己的方式在"完成任务"，而它完成任务的方式就是生成连贯的文本。

它的危险在哪里？

幻觉最狡猾的地方，在于它穿着"正确答案"的外衣。AI 编造答案时的语气和它给出正确答案时的语气几乎一模一样——同样自信、同样流畅、同样言之凿凿。你无法靠"语气听起来像不像真的"来分辨。

一个不存在的配置项、一个已经废弃的 API、一个逻辑上有细微漏洞的安全方案——如果你不加验证地直接使用，错误就会像不定时炸弹一样被埋进你的项目。

有什么需要注意的？

面对幻觉，最可靠的做法只有一个字：验。跑一遍代码看看结果对不对，去官方文档确认那个函数是否存在，用搜索引擎交叉检查关键信息。尤其是涉及版本号、安全配置和具体参数的回答，多花一分钟核实，就可能省下几天的排错时间。