AI说的"幻觉"是什么？怎么防

"幻觉"是AI圈的黑话，说白了就是AI一本正经地胡说八道。 它特别自信地告诉你一个答案，有鼻子有眼，结果全是编的。比如你问它某本书第几页写了啥，它能给你编出一段根本不存在的原文，还特别像那么回事。 为啥会这样？因为AI本质是在"猜下一个字该是啥"，它追求的是"说得像"，不是"说得对"。遇到它不知道的，它不会说"我不知道"，而是顺手编一个。 防坑三招： 重要信息自己核实：涉及数字、日期、法律、医疗、人名，一定自己查一遍。 让它给来源：问它"这个说法的出处是哪"，它编的往往对不上。 别问它不知道的：问它训练数据里没有的新鲜事、你公司的内部信息，它只能瞎编。 小白记住：AI是个自信的"话痨"，不是权威，关键信息自己把关。