产品管理研究中心

文┃小夏

编辑┃叙言

2025年不少企业引入AI大模型时，都栽过类似的跟头。

业务部门本来满心期待，想靠大模型搞定文档阅读、数据提炼这些活儿，甚至指望它写出完美的尽职调查报告。

结果呢？模型转头就编出个不存在的法律条款，要么为了句子通顺直接篡改数据。

见过太多业务方从一开始的“技术崇拜”，瞬间就变成了“技术虚无主义”。

业务期待落空，AI的致命偏差

这种过山车似的情绪转变，核心问题还是出在对AI的认知上。

我们总习惯性用人类的阅读理解逻辑去要求AI，却忘了它根本不是按这个套路干活的。

在我们眼里，文字是有语义、有逻辑的，但在大模型那儿，世界就是一串串数字ID，也就是技术上说的Token。

主流模型用的是统计学分词逻辑，信息不是按字或词来切分的，全看出现频率。

高频的字符组合就打包在一起，低频的生僻词就拆解开，这种方式处理中文时，很容易出现隐蔽的理解偏差。

幻觉的真相，概率预测的副产品

搞懂了这个，就明白为啥AI连小学奥数题都会翻车了，它根本不是在做逻辑推演，而是在搞“概率赌博”。

基于前面的文字序列，算下一个最可能出现的词是什么，这和我们理解的“思考”完全是两码事。

这也是AI“幻觉”的根源，搜索引擎是精确匹配数据库里的信息，生成式AI却是靠统计规律做文本接龙。

要是让它处理垂直领域的冷门知识，或者企业内部的私有数据，它没足够的训练样本支撑，又不能沉默，就只能按概率抓些“听起来靠谱”的词来填空。

我发现一个反直觉的现象，本来想越顶尖的模型应该越靠谱，但2025年的几次评测里，那些主打极致推理的模型，事实性错误反而更多。

后来才想通，创造力和严谨性在大模型的架构里本就是矛盾的。

落地困局，长文本失忆与小模型短板

搞懂了底层逻辑，再看实际落地中的问题，就不难理解了，很多产品经理觉得，AI缺知识，把几万字操作手册塞进提示词就行。

但后来发现，这根本行不通。

就算模型标榜支持超长上下文，实际用的时候还是会出现“首尾效应”，对开头和结尾的信息记得清楚，中间的关键内容很容易忘。

学术界叫这“中间迷失”，指望AI读完一本书精准复述中间某页的内容，现在还是高风险操作。

还有个问题是小模型的压缩损耗，现在很多企业为了降低成本，会用参数小的模型做端侧部署或私有化部署。

但物理规律摆在这儿，压缩就意味着损耗，小模型为了瘦身，丢了大量参数细节，碰到稍微生僻的知识点，就只能靠“瞎编”填补空白。

这些问题其实都指向一个核心，我们对AI的能力边界判断错了。

2025年很多企业的AI应用都在“裸奔”，根本没有对应的风险管控机制。

破局之道，分级治理守住人机边界

既然幻觉是AI的出厂设置，没法彻底消除，那产品经理的核心工作就该从消灭幻觉，转向风险治理和流程设计。

这时候，分级治理的思路就很管用，我比较认可那个“四象限治理模型”。

比如日常的周报润色、通用翻译这些场景，语料丰富，AI表现稳定，就主打效率优先，把交互做流畅就行。

但像企业内部制度问答、项目历史数据查询这种场景，就必须用检索增强生成技术构建知识库，强制AI只基于召回的文档回答，还要给出引用来源，让回答有据可查。

至于冷门文献查找、数值核算这种高风险场景，就得引入交叉校验机制。

而创意脑暴这类场景，就别指望AI给标准答案，把它当成思维脚手架就好。

说到底，AI时代的产品经理，早就不只是需求翻译官了，更得是人機协作边界的守门人。

AI能生成十种解决方案，但最终要判断哪个最优，还是得靠人。

毫无疑问，我们可以享受AI带来的效率红利，但关键决策节点的控制权必须留在人类手里。

在AI编织的概率迷雾里，人类的批判性思维，才是最靠谱的灯塔。

声明：本文内容均是根据权威材料，结合个人观点撰写的原创内容，辛苦各位看官支持，请知悉。