如今,各种AI产品层出不穷,它们能写稿、能答题、能做方案,看起来几乎“什么都懂”。但用着用着就会发现,AI有时给出的内容看似专业、逻辑严密,却并不完全准确,甚至与事实不符。这类现象被称为“AI幻觉”。
大家熟悉的GPT、Gemini、DeepSeek等,本质上都是基于大语言模型构建的AI系统。而大语言模型更像一台高度复杂的文字接龙机器。它通过学习海量文本,掌握语言中的词语搭配、句式结构和上下文关系,让自己“看起来像人一样说话”。
当你输入一句话时,它并不会判断这句话是否正确,而是基于统计概率模型,去预测当前语境中下一个最可能出现的词是什么。当它遇到自己不确定或者根本没学过的知识时,为了完成说出通顺句子的任务,就可能凭感觉编造答案。
此外,用户给出的前提通常被默认为真实。为了维持逻辑的连贯,它就会不断“说谎”,从而形成连锁的错误回答。
因此,AI并不真正理解事实的真假,也不具备人类意义上的判断能力。当训练数据中本身存在错误信息,或者用户的问题超出了它的知识边界,AI就可能依据统计规律,拼凑出一套看起来很合理、但实际上并不准确的答案。 市科协供稿


