我经常被人问到同一个问题AI学习从哪开始。问的人里有刚毕业的学生有工作了三五年的程序员也有完全没有技术背景的产品、运营、设计同学。一个很意外的现象是很多人在这件事上纠结的时间远远超过实际学习的时间。说实话“从哪开始”这件事比它看起来复杂因为AI早就不只是一个领域的名字了。它既指用聊天机器人写文案也指训练一个自己的大模型中间还隔着提示词工程、RAG、Agent、微调、部署这一大堆概念。我写这篇东西就是把这条路上最关键的几个岔路口摆清楚顺便告诉你每个路口该怎么选。我不是什么权威大佬只是一个天天跟模型和代码打交道的工程师下面这些内容都是我带新人、也带自己走出来的实话。1. 先别急着买课——AI学习的起点是定方向不是囤知识1.1 学AI的人大致分三种先搞清楚自己是哪一种很多人的“从哪开始”其实是“我要报什么课”的下意识反应。但AI学习最大的坑就是没有目标地什么都想学。我把身边学出来的人分成三类你对照一下自己更像哪个。第一类是应用者。他们的目标是用AI提高工作效率或者做个人副业。典型场景是用对话类AI写周报、做PPT大纲、翻译文档、整理数据。这类人学的是工具和技巧基本不需要写代码最多学一点自动化脚本。第二类是工程师。程序员、测试、运维转过来的大部分属于这类。他们的核心诉求是能不能用大模型API做出一个产品能不能给公司搭建一个内部知识库问答系统能不能开发一个能自动处理任务的Agent这类人需要动手写代码但也不需要从零训练大模型。第三类是算法和研究者。这类人不多但目标最清晰理解Transformer背后的数学原理、自己微调甚至预训练模型、发论文或做底层优化。搞清楚自己是哪一类再去选学习路径。最怕的是应用者一上来就啃论文把自己的热情耗光工程师捧着深度学习经典教材啃了半年结果连一个API都没调过。1.2 一张能力地图先判断自己站在哪一层我经常用下面这张图来判断一个人现在的位置以及下一步该往哪走。层级你具备什么能力典型产出工具交互层会跟对话类AI打交道能写好提示词文案、表格、分析报告应用开发层会用代码调用大模型API能写简单脚本和Web应用客服机器人、文档摘要工具、个人助理系统架构层理解RAG、Agent、多模型协作能设计复杂AI系统企业知识库、自动化工作流、多智能体应用模型训练层能微调开源模型理解训练流程和评估方法领域专用模型、私有化部署前沿研究层能读论文、复现实验、改进算法新模型、新方法、论文大多数刚问“从哪开始”的人其实连第一层都还没有系统地掌握。我建议任何人都先老老实实把第一层和第二层走完然后再决定要不要往下深入。因为这两层能让你在最快的时间内看到AI的实际价值形成正向反馈。一旦你尝到“我能用AI做出东西”的甜头后面学任何知识都有劲头。1.3 从问题出发学AI而不是从知识出发我见过最高效的AI学习者几乎都有一个共同点他们是带着具体问题来学的。一个产品经理想批量处理用户反馈于是学会了怎么把Excel里的评论扔进API跑情感分析一个后端工程师想给自己的项目加一个聊天功能于是研究起了流式输出和对话管理一个学生想自动整理文献笔记于是接触了嵌入向量和向量数据库。这些问题都不宏大但每一个都逼着你把“AI到底能做什么、怎么接入”弄清楚。相比之下从“我先把Python学完再说”开始的人十有八九死在了语法阶段。学习AI不需要先成为编程高手需要先找到一个让你愿意折腾三天的问题。2. 绕不开的三块基石但难度没有传说中那么大2.1 Python能写脚本就行别被“学好编程”吓退经常有人问我AI学习要不要先学Python要不要系统刷完某本编程书我的答案是只需要学到“能把想法写成脚本”的程度就可以开始AI实战了。所谓“够用”具体来说包括这么几样变量和数据类型、列表和字典、条件判断、循环、函数、基本的文件读写、pip安装第三方库。面向对象懂一个皮毛不算亏不懂也能硬闯。什么数据结构与算法、设计模式、并发编程等真需要的时候再补一点不晚。怎么练不要背语法而是拿真实小需求练。比如“把目录下所有文件按日期重命名”“每天早上抓一次天气存成文本”。我用两个下午带过一个完全零基础的新人最后他就靠这几招写出了批量发消息的工具。Python说白了就是个工具工具用来干活才叫工具放在收藏夹里永远只是收藏。2.2 数学不用重修高数但要补三种直觉一提到数学很多人直接PTSD。好消息是你如果只做到工程师这一层线性代数、概率、微积分都不需要达到做题水平需要的是理解直觉。线性代数的直觉是数据可以表示成向量和矩阵矩阵乘法是一种批量计算。一句话“把一堆数打包成表格再统一做运算”。这就是为什么GPU比CPU快那么多——它天生适合矩阵运算。概率的直觉是模型的输出不是一个固定答案而是一个概率分布。“这行文字有80%的概率接‘了’有15%的概率接‘着’”。你要理解条件概率、先验、后验这些词在做什么。微积分的直觉是导数等于变化率梯度下降就是顺着下山最陡的方向一步步走直到走到山谷。你别管什么偏导链式法则先把“模型通过不断调整参数让误差变小”这件事在脑子里立起来。真到研究层数学必须补成硬功夫。但在入门阶段数学的作用不是让你会算题而是让你听别人讲模型的时候不懵。缺哪块查哪块别从头刷《高等数学》。2.3 机器学习核心概念一口气搞清楚“训练”到底在干嘛学AI很容易被一堆术语劝退损失函数、梯度下降、过拟合、训练集、验证集、测试集……其实它们背后是一个特别朴素的循环。训练就是给模型喂大量数据让它一遍遍地猜再对比猜得准不准然后根据差距微调自己。推理就是训练完之后拿新数据给它让它输出结果。损失函数就是“这次猜得离谱不离谱”的计分器。梯度下降就是“往哪个方向调参能让分打得更高”的导航算法。过拟合最形象平时做题只背答案没理解规律一到考试换了个题目就傻眼。那怎么避免过拟合所以才要分训练集、验证集、测试集。训练集是平时做题用的验证集是模拟考用来随时调整策略测试集是真正的大考成绩才算数。这一套概念不需要你先会写任何代码但一定要理解透。不理解透后面看模型训练曲线、调超参数全都会变成玄学。3. 第一个真正能落地的小项目让大模型替你干活3.1 工具选型API、开源模型、还是先不装环境基础概念有了下一步不是继续看书而是动手做一个真实项目。我推荐第一个项目从“调用大模型API”开始不要一上来就本地部署开源模型。原因有三API接入门槛最低几行代码就能跑通成就感来得快。现在主流的对话模型能力比大多数开源小模型强得多你更容易感受到“AI真的能做不少事”。工程化开发里调用API本来就是最常用姿势。先学会用别人做好的轮子再研究轮子是怎么造的。选哪家API我的建议是选一个你方便访问、文档清晰、有免费额度或低价档位的服务。现在市面上提供大模型API的厂商很多接口风格也越来越统一大部分都是OpenAI兼容格式。这意味着同一个SDK换一个base_url和api_key就能切换服务商。好多大模型平台的示例代码也直接给了不同语言的说明照着抄就行。成本上需要懂一个概念token。模型不是按字数计费而是按token计费。一个token大概相当于一个汉字的一部分也相当于四五个英文字母。一次问答的消耗量等于你输入的内容加上模型输出的内容总和。日常折腾一个新功能一个月花几块钱很正常不算什么门槛。3.2 动手做一个“会议纪要助手”我带着很多新人做过同一个项目把一段乱七八糟的会议录音转写文本变成一份结构化纪包含“会议主题、讨论内容、结论、待办事项”。这个项目特别适合做第一个练手案例因为它不复杂但完整覆盖了“输入-调用模型-处理输出”的全流程。先安装依赖pip install openai然后写这样一个脚本import openai import sys client openai.OpenAI( api_key你的key, base_url你选用的API服务地址, ) SYSTEM_PROMPT 你是会议纪要整理助手。请把用户提供的原始会议记录整理成结构化纪要。 必须包含以下四个部分 一、会议主题 二、讨论内容 三、结论 四、待办事项按负责人列出没有负责人就写“待定” 不要添加原文中不存在的信息。 def summarize(raw_text: str) - str: resp client.chat.completions.create( modelgpt-4o-mini, # 换成平台提供的模型ID messages[ {role: system, content: SYSTEM_PROMPT}, {role: user, content: raw_text}, ], temperature0.3, # 偏低温度尽量让输出稳定 ) return resp.choices[0].message.content if __name__ __main__: text sys.stdin.read() print(summarize(text))运行方式也很简单把会议转写文本存成meeting.txt然后执行python meeting_summary.py meeting.txt我第一次跑通这个脚本的时候整个人的感觉是“原来AI应用开发不像我想象中那么难”。但要注意跑通只是第一步后面还有几个值得做的改进把结果保存成Markdown文件、支持粘贴多段长文本、用简单的Web界面包一层、接上企业微信群机器人。每加一个功能你就多练一个工程点。3.3 提示词就是你的开发工具别再只会说“帮我写”同一个API同样的模型有些人拿到的结果像专业的行业顾问有些人拿到的结果像敷衍的键盘侠。区别几乎全在于提示词。差劲的提示词长这样“把这段会议记录整理一下”。好的提示词长这样你是会议纪要整理助手。请把用户提供的原始会议记录整理成结构化纪要。 必须包含四个部分会议主题、讨论内容、结论、待办事项。 待办事项按负责人列出没有负责人就写“待定”。 不要添加原文中不存在的信息。差在哪第一给了角色模型知道用什么身份说话。第二给了结构输出不会是一团乱麻。第三给了约束避免它自己脑补内容。再深入一点可以学few-shot就是给一两个示例让模型照着你的风格输出。你甚至可以要求模型“如果信息不足就明确说信息不足”而不是硬编。提示词工程本质上是在做“人机需求对齐”这跟写产品文档是一样的能力。别小看这一层我见过很多工作两三年的开发写代码没问题但调了好几天接口效果都不好最后发现是提示词写得一塌糊涂。4. 从调用到理解大模型背后究竟发生了什么4.1 注意力机制读句子时它也在“划重点”第一次跑通API后可以开始往原理层走一步了。不要求你马上啃论文但有一个东西值得建立直觉——Transformer的注意力机制。拿一句话举例“李雷把苹果给了韩梅梅然后她咬了一口。”“她”指的是谁人类读这句话会自动把“韩梅梅”和“她”联系起来。注意力机制干的事本质上就是这样一种动态“划重点”——模型在处理某个词的时候会同时计算句子中其他所有词跟它的相关性然后让相关性高的词更多地影响当前这个词的表征。所以“她”会更多地关注“韩梅梅”而不是“李雷”或“苹果”。这个机制让模型能够捕捉长距离的依赖关系同时天生适合并行计算这也是大模型能高效处理超长文本的核心原因之一。我不建议新手一开始就去推导Q、K、V矩阵和点积公式。先记住“模型会在每个词周围动态寻找哪些词更重要”这个画面等需要的时候再钻数学。你会发现后面读任何大模型的科普文章都顺畅很多。4.2 预训练、微调、对齐模型的“读万卷书”和“行万里路”大模型是怎么从一堆文字里“学会”这么多东西的一句话预训练是读万卷书微调是学说话得体对齐是学做人靠谱。预训练阶段模型的唯一任务就是预测下一个词。给它一亿句话它不断练“看到前面的词猜后面的词”。在这个看似简单的任务中模型被迫学会了语法、事实知识、推理能力、甚至一部分世界模型。这是基础能力。**微调SFT**阶段用大量人工标注的“优质对话”教模型回答问题的格式。预训练模型的输出是“接下来可能出现的词”微调让它学会“用户问什么我答什么”。这一步塑造了对话交互形态。对齐/RLHF阶段让人类对多个回答打分排序训练一个奖励模型再让模型追求高分。这个阶段主要解决“不说有害内容”“不瞎编”“更有用”这些跟价值观和实用性相关的问题。我经常用“大学到职场”来类比预训练是大学四年把所有课程背了个遍微调是面试前突击背诵高频问题对齐是入职后的价值观培训和业务规范学习。4.3 幻觉、温度采样为什么模型会一本正经地扯谎知道这些原理后你就能理解为什么模型会“一本正经地胡说八道”了。因为从本质上讲大模型不是一个数据库它是一个“接龙游戏高手”。它的目标是生成“概率上最合理的下一个词”而不是“事实正确的下一个词”。一个句子语法通顺、逻辑看似严谨并不代表其内容是真实的。因此实际开发里要处理幻觉问题。常见招式有给模型提供能查证的资料也就是RAG、要求模型标注信息来源、引入外部工具执行计算而不是让模型心算、把输出结果再用规则校验一遍。另一个绕不开的采样参数是temperature。它控制的是模型输出时的“随机程度”。数值越低输出越保守稳定数值越高输出越发散有创意。写代码场景建议0到0.3做头脑风暴可以调到0.8以上。记住这个就行要稳定就低温要创意就高温。它是让你掌控模型“性格”的旋钮。5. 进阶不是只有调模型四条路按需选5.1 四条进阶路线先看清再迈腿跑通几个API项目后你大概率会想下一步往哪走我观察到的主流进阶方向有四条各有各的门槛和乐趣。方向目标需要补的能力入门项目建议Agent应用开发让模型自主规划、调用工具完成复杂任务编程、函数调用、任务拆解做一个能查天气再写日程的助手RAG与知识库让模型基于自己的私有文档回答向量数据库、文档解析、检索逻辑给公司文档做一个问答机器人模型微调与部署拥有一个领域专用模型PyTorch基础、GPU环境、数据处理用LoRA微调一个开源模型AI质量与工程化让AI系统稳定、可控、可监控测试思维、可观测性、成本优化做一个提示词回归评测集这几个方向不互斥但新手最好一次只选一个主线不要并行。我见过有人一个星期换了五个方向最后什么也没深入。5.2 Agent开发让模型自己动起来这几年AI领域最火的词之一就是Agent。它跟普通对话应用的核心区别是普通应用是你问一句它答一句Agent是模型能够自己决定“下一步该做什么”比如查资料、算数学、调接口直到完成你交的任务。理解Agent最经典的框架是ReActThought思考→ Action行动→ Observation观察结果→ 循环直到输出。模型先思考“为了回答这个问题我需要知道今天北京的天气”然后调用天气查询工具看到结果后继续思考最后组织答案给你。刚开始写Agent别急着上复杂的编排框架先用代码把循环写明白def run_agent(task): messages [{role: user, content: task}] for _ in range(5): # 限制循环次数防止失控 reply llm(messages) if reply.action finish: return reply.answer if reply.action search: obs search(reply.query) messages.append({role: tool_result, content: obs}) return 处理超时这是简化写法但背后的思想是核心。等这个循环跑明白了再去用LangChain这类框架不迟。用框架最大的风险是你根本不知道里面发生了什么出了问题也没法排查。先徒手写一遍框架对你而言就只是工具了。5.3 本地部署与微调从调用者变成模型的主人如果你有隐私需求、离线需求或者单纯想省API费用“本地部署开源模型”这个方向值得学。第一步建议从Ollama开始。这是一个对新手极其友好的本地模型运行工具支持一键下载和管理模型把开源模型跑起来基本不用写代码。跑起来之后你会发现新问题模型在本地运行速度慢、量化精度损失、显存不够。这些全是工程问题解决一个长进一块。再往后可以尝试微调其中LoRA是新手最友好的方式冻结原模型绝大部分参数只训练一小部分额外参数用很少的数据和算力就能把模型往特定风格或领域引导。我第一次用LoRA微调模型后才真正理解什么叫“训练时模型参数在变”。![本图仅为占位实际上这里没有任何图我也不会在文中强行塞图]这段想表达的是部署和微调是把“用AI”变成“造AI”的一道分水岭这个过程能帮你补上GPU显存、数据类型、模型结构、训练流程等好多底层知识。但它明显比API调用难建议先把前面的基础打牢再碰这条线。6. 资料与避坑怎么判断自己学对了6.1 一套免费且够用的资源组合AI学习的付费资料遍地都是但说实话优质免费资源完全够用到进阶。我常推荐的新手组合是官方文档选一个你看得上的API平台把它的快速入门、API参考全部过一遍。第一手资料永远最准很多二手教程只是把它翻译了一遍。视频站上的系统课搜“机器学习入门”“Prompt工程入门”选播放量高且有完整大纲的系列视频跟着敲一遍代码。开源项目GitHub上搜有意思的AI应用项目先运行起来再断点调试再改一版自己的功能。这是我最推荐的练手方式比任何课程都能暴露问题。论文选择不用从第一篇论文看起。先搜“大模型综述”“LLM Survey”看综述建立全景图再顺着引用链找感兴趣的方向往深挖。判断一份资料值不值得看的标准很简单它能不能让你在30分钟内产生动手的想法。如果不能放进收藏夹里吃灰还浪费你的精力。6.2 四个最容易让人原地踏步的坑我见过太多人努力了很久却毫无进展究其原因基本绕不开这四个坑。坑一囤课不行动。收藏夹存了200个视频一个都没看完。知识不会因为你收藏了它就是你的动手才算。坑二只追新不补基础。今天哪个新模型发布都要去刷评测明天讨论哪个新框架火了就要去学但基础的提示词结构写不出来token怎么算也不清楚。追新是结果平不是原因。坑三只抄代码不思考。GitHub上clone了10个项目全部能跑但没一个是自己从头写出来的。于是面试或者换需求时连怎么改都无从下手。抄代码没问题但要边抄边问为什么要用向量数据库而不是直接全文搜索为什么这里要异步处理坑四不建立评估习惯。很多人改了一个提示词、换了一个模型觉得“好像变聪明了”拿不出任何可量化的比较。养成给关键场景写测试集、跑分对比的习惯你的迭代速度会超过90%的同行。6.3 我坚持的学习习惯输出倒逼输入最后分享一个让我自己受益最多的习惯不输出就不算学会。我学每一个新概念基本都会逼迫自己写一篇短文或者做一个小项目讲给别人听。你可以试试这样每学一个知识点用“自己跟朋友解释清楚”的方式写一段笔记每跑通一个API功能把它改成自己的场景再跑一遍每读完一篇有意思的文章用自己的话总结三点启示发表在社区。哪怕笔记当时很粗糙没关系你正在做的是把“输入”变成“产出”这个动作会让理解停留在身体里。有个更具体的做法找一个人把你学到的东西讲给他听讲到他自己听懂。这个过程里你很快会发现哪些地方你以为懂、其实不懂。补完再讲一遍。这比对着教材读十遍都管用。我自己这些年踩过的最大弯路就是太早开始追求“高级概念”结果连最基础的API调用都没法顺畅落地。AI学习的本质不是比谁知道得多而是比谁能让模型真正动起来、把问题解决掉。选一条路线做一个项目写一篇笔记然后循环。只要你循环起来了从哪开始就不再重要因为每天都在往前走。