小时候都玩过词语接龙:上一个人说「天空」,你接「空气」,下一个再接「气球」,谁接得最顺、最像话谁就赢。大语言模型干的,本质就是这件事,只是玩得大得多——你给它一段文字,它猜接下来最可能蹦出来的那个字或词,接上去,把整段重新看一遍,接着猜下一个。
它猜的单位有个专门的名字,叫 token。一个 token 可能是一个汉字、一个英文单词,或者半个单词、一个标点。平时听说的「上下文能装多长」「调一次花多少钱」,算的都是 token 数,不是字数。
问题来了:一个只会猜下一个词的机器,怎么长成了今天这副样子,能查资料、写代码,甚至自己打开浏览器把一件事从头办到尾?它后来的这些本事,全是有人从外面一层层给它打上去的补丁,这篇文章要讲的就是这条补丁链。
它只会接龙,所以它会编,也不知道「现在」
它挑词的标准只有一个:读起来顺,没有哪个环节核对真假,两个毛病从这儿长出来。
头一个,它会一本正经地编。遇到拿不准的问题,它很少说「我不知道」,往往顺着语感造一个听着像回事、其实不存在的答案;哪怕接上了外部工具,返回离谱的数字,它有时照样原样抄进回答里。它保证的只有通顺这一件事。
第二个,它对自己身在「当下」一无所知。它不知道自己是谁、现在几点、外面下不下雨,这些信息不在它眼前那串文字里,也不在它训练时啃过的旧知识里。它一次能读进去的文字有上限,叫上下文窗口,今天较好的模型一次能读进上百万个 token,但文字一长,哪怕没到上限,它接得也不那么准了。
问它没学过的问题,它敢编;追问它刚说过的细节,它接不上。那么,这台既会编、又健忘的机器是怎么来的?得往回看它长大的路。
从「会认」到「会创造」,它走了七十年
AI 相关的词特别多,先把关系理清。
这几个词是大圈套小圈。最外面是人工智能,一个愿望:让机器能像人一样想、判断、做事,这个词 1956 年就在达特茅斯会议上正式提出了。往里一层是机器学习,不靠人把规则一条条写死,改成喂一堆数据、让机器自己找规律。像老师傅带徒弟,不塞给他一本手册,跟着看几百遍活怎么干,看多了自己就摸出门道。再往里是深度学习,用很多层的神经网络,是机器学习里这些年最主流的一支。最里面是生成式 AI,能生成新内容的那一类,写文章、画图、作曲都算;大语言模型是其中最主要的一种。
| 阶段 | 时间 | 本事 |
|---|---|---|
| 会认 | 1950 到 1990 年代 | 认出眼前是什么 |
| 会判断 | 1990 年代到 2016 年前后 | 拿数据做预测 |
| 会创造 | 2017 年至今 | 生成新内容 |
最早那几十年,AI 就一个「认」字,银行拿它认支票金额、邮局分拣邮编;接着学会「判断」,垃圾邮件过滤、电商推荐都靠它。真正的转折在 2017 年:一篇叫《Attention is All You Need》的论文提出 Transformer 架构,核心是「注意力机制」,让模型一眼看全整句话、抓住词和词之间的关联,还能大规模并行算。在那之前,处理文字主要靠 RNN、LSTM,只能一个字一个字顺着读,句子一长就忘,还没法并行、训练慢。Transformer 把这两道坎挪开,模型才可能堆得特别大、喂进特别多的数据。2018 到 2019 年,BERT、GPT 冒出来,人们发现模型越大、数据越多,能力越强;到 2022 年底 ChatGPT 发布,两个月用户破亿,这条路才真正走到普通人跟前。
会说之后,离会做还差一截
模型变得又大又强,「只会接龙」却没变。想让它干活,就得从外面一层层往上加东西。
先给它一段看不见的开场白
既然它只会照着眼前的文字往下接,就在开接之前先塞一段文字进去,把设定、背景、规矩提前告诉它,这就是提示词。
提示词分两种:系统提示词由产品方预先写好,用户通常看不见,管的是「你是谁、什么该说什么不该说」;用户提示词就是你在对话框里打的那句话,管的是当下这件具体的事。真实产品里的系统提示词往往长得多,除了人设,还会写明能用哪些工具、该守什么规矩、记忆去哪找。用户只问一句「帮我写首诗」,模型那头收到的系统提示词可能已经超过四千个 token,像舞台上的提词器,观众看不见,演员却全程照着它念。有了这段文字,一个漫无目的往下接的模型,才算有了稳定的身份。
让它把该记的记下来
只有提示词还不够。它每次能看到的就眼前这一次输入,前面的内容不在里面,它就没有痕迹可循。
于是有了「上下文工程」:把该让模型看到的东西组织好再喂给它,因为窗口有上限,不能把聊天记录一股脑塞回去,得挑。记忆是其中的关键:短期记忆是本次会话里说过的话,换个新对话就没了;长期记忆绑在账号上、跨会话留着,比如它记得你做财务工作、偏好简洁的回答。说到底,长期记忆也是把该记住的内容组织成文字,在合适的时候喂回去。
让它先翻资料再开口
到这儿,它有了身份、记得住话,可肚子里的知识全是训练时学的旧东西,还可能记错,比如「公司最新的报销制度」它压根没学过。
办法是让它先查资料再回答,也就是 RAG,全称检索增强生成。要弄懂它怎么查,先得认识 Embedding。
计算机只认数字。Embedding 干的活,就是把一段文字换算成一串数字,这串数字叫向量;意思相近的文字,算出来的数字也挨得近。真实的向量有几百上千维,人脑想不出来,数学模型处理得了。
懂了 Embedding,RAG 就好懂了,三步:先把文档切成小段,每段算成一个坐标点存进知识库;提问时把问题也算成坐标点,去库里找离它最近的那几段;再把这几段资料连同问题喂给模型,让它照着资料答。答案有了出处,瞎编的空间就小了,企业做 AI 头一步几乎都是搭知识库,道理就在这里。
给它一双能动手的手,再接一根通用的线
会说、会记、会查,它仍然只会说、不会做。让它查今天的天气,它自己做不到——天气天天在变,训练时根本学不到。
办法是工具调用。把查天气封装成一个工具,模型只要知道「什么时候用、填什么参数」,不用管内部怎么算。它先输出一段调用指令,系统在后台跑一遍、拿回结果,再交回给它组织成一句通顺的话,这就像叫外卖:你只管把想吃的说清楚,不必知道后厨怎么备料下锅。执行代码、调搜索、发邮件、查数据库,都能封装成工具。
工具一多,新麻烦跟着来:各家接口各说各的方言,这个字段叫 city,那个叫 location。每个工具要对接所有 AI 公司,每家 AI 公司也要适配所有工具,重复劳动量吓人。解法跟人解决语言不通一样,定一套统一协议,这就是 MCP,全称模型上下文协议,由 Anthropic 在 2024 年前后提出,如今被越来越多厂商采纳。它像 USB 接口统一了外设,工具方按这套标准挂出来一次,支持 MCP 的 AI 都能直接调。
到这一步,人设、记忆、资料、手脚都齐了。可这些本事还是「你说一步,它做一步」。
补丁凑齐,它开始自己安排先做什么
2022 年前后,两块拼图凑齐:ChatGPT 靠指令微调和人类反馈强化学习(RLHF),让模型头一回稳定听懂指令;思维链(CoT)让模型学会分步骤想问题。2023 年初,AutoGPT、BabyAGI 这类项目冒出来,智能体(Agent)这扇门就此打开。
智能体的定义很简单:给它一个目标,它自己拆解、规划、调工具,盯着每一步的结果再调整,直到把事办完。你不再一步步下指令,只说清想要什么。
它运转的核心,是目标、行动、观察三件事来回转圈。拿「核对差旅报销单」说:它先读文件,发现一张单子缺发票号,就回头查、标记,再核对下一张,每转一圈离目标近一点。
有个地方容易被忽略:智能体没有凭空多出什么智慧,内部还是在接龙,只是把「目标、上一步、看到的结果」都当文字,一轮轮喂回给那个模型,让它接出下一步,再拿去执行。它聪明到什么份上,上限还是那个模型。
同一套循环,落地有几种不同的组织方式,适合的场景差得远。
| 编排方式 | 怎么运转 | 适合 | 代价 |
|---|---|---|---|
| 单智能体 | 一个 Agent 自己规划、调用、观察,跑完全程 | 目标清晰、步骤不多的活 | 任务一复杂就顾此失彼 |
| 多智能体 | 拆成几个子 Agent 分工,各管一段,还能安排审核角色 | 复杂协作,需要复核把关 | 调度更复杂,算力和成本更高 |
| 工作流 | 流程事先固定成流水线,按条件走分支 | 步骤基本不变、要求稳定的业务 | 灵活度低,遇到没预想过的输入容易卡住 |
| Claw 类 | 能发出操作电脑的指令,自己开文档、点按钮、敲命令 | 需要操作本机软件的开放任务 | 权限和安全风险,长任务仍可能跑偏 |
最后一种多说一句。这类产品 2025 年初火起来,业内叫它 Claw:让 AI 能操作电脑,等于把键盘和鼠标交到它手上,删文件、泄数据、被网页里的恶意指令带偏,都可能发生。任务越不可逆、影响面越大,越要人点头。
能干活,不等于能交付
一个人玩 AI,出点问题不打紧;一家企业把智能体放进真实业务,撞上的墙是另一副样子。
| 企业会撞上的问题 | 单个聊天工具为什么顶不住 |
|---|---|
| 知识从哪来 | 成百上千份文档要解析、切分、更新、管权限,才能变成能用的知识库 |
| 工具怎么接 | 要连内部系统和数据库,得处理鉴权、权限和工具治理 |
| 流程怎么搭 | 严谨业务要固定流程,复杂任务要多智能体,还要能调试、能兜底 |
| 权限和安全 | 不同岗位能看什么、能调什么不一样,数据要隔离、要留痕 |
| 效果和成本 | 上线后要评测效果、监控用量、发现问题,不然就是一笔糊涂账 |
这些墙靠一个聊天窗口推不倒。企业级智能体开发平台就是冲着它们来的,把知识库、工具、流程、权限、评测、运营做成可配置、可监控的东西(课程里的腾讯云 ADP 是这类平台的一个例子)。它要回答的问题很实在:能不能每天可靠地跑,出了事有没有人兜得住。
回头把整条链捋一遍。模型的本质从头到尾没变,还是猜下一个词。变的是它身边多出来的东西:一段设定它的文字(提示词),一份能记住事的记忆,一摞随时能翻的资料(RAG),一双能动手的手(工具调用和 MCP)。这些东西凑齐,它从「会说」走到「会做」;再给它一个转圈的循环,它开始自己安排步骤。难的是后半段:让它每次都对、每次都稳,出了岔子有人兜得住。猜下一个词容易,把「会做事」变成「可靠地做事」,才是它走过的最长一段路。