当前版: 02版 上一版  下一版

AI为什么会一本正经地“胡说”

  如今,各种AI产品层出不穷,它们能写稿、能答题、能做方案,看起来几乎“什么都懂”。但用着用着就会发现,AI有时给出的内容看似专业、逻辑严密,却并不完全准确,甚至与事实不符。这类现象被称为“AI幻觉”。

  大家熟悉的GPT、Gemini、DeepSeek等,本质上都是基于大语言模型构建的AI系统。而大语言模型更像一台高度复杂的文字接龙机器。它通过学习海量文本,掌握语言中的词语搭配、句式结构和上下文关系,让自己“看起来像人一样说话”。

  当你输入一句话时,它并不会判断这句话是否正确,而是基于统计概率模型,去预测当前语境中下一个最可能出现的词是什么。当它遇到自己不确定或者根本没学过的知识时,为了完成说出通顺句子的任务,就可能凭感觉编造答案。

  此外,用户给出的前提通常被默认为真实。为了维持逻辑的连贯,它就会不断“说谎”,从而形成连锁的错误回答。

  因此,AI并不真正理解事实的真假,也不具备人类意义上的判断能力。当训练数据中本身存在错误信息,或者用户的问题超出了它的知识边界,AI就可能依据统计规律,拼凑出一套看起来很合理、但实际上并不准确的答案。     市科协供稿

 
     标题导航
   第01版:要闻
   第02版:综合
   第03版:要闻
   第04版:云冈副刊
大同邮储银行做好金融“五大文章”
耍孩儿戏《猪八戒背媳妇》将亮相央视戏曲春晚
代王府“大明百戏节”即将好戏开场
图片新闻
乾楼文化展览馆文创媒体见面会举行
287处口袋公园提升市民生活品质
AI为什么会一本正经地“胡说”
我市小微企业与个体户经营稳中向好
市一医院附近公园违停乱象得到整治
广灵文化志愿者进村入户送春联
便道砖坑洼绊脚 居民盼早日修缮
阳高县迎新春晋冀蒙乒乓球赛举行