大模型算法如何入行转行？看这个建议就够了！

最近私信问我关于入行、转行方面的问题比较多就专门写一篇讲讲我的理解。首先说明一下个人的背景和现状我本人是本科学历有互联网大厂搜推方向经验后来跳到中厂继续做推荐去年开始做大模型。现在是个小组长做以应用落地为目的的大模型方向工作。有兴趣的可以翻翻我上一篇内容讲得比较详细。因为人在中厂分工不像大厂那么细致所以基本上上下下都摸过粗肯定是粗但是可能适合谈谈全流程的认识现在大模型算法涉及的工作主要分为这几个方向1.偏底层的训练和推理框架工作比如colossal-ai、vm这些各厂如果自建集群搭建训练推理框架的话也会有一部分工作与之重合2.预训练;3. Alignment;4.应用开发;前排提示文末有大模型AGI-CSDN独家资料包哦上面也就十分粗略的简单做了个划分其实很多界限并不清晰只是为了后面叙述有个结构。底层框架这一层我是没太接触过的不过公司内有做这方面的人。以我粗浅的认知这些人的技术栈和以前搞GPU算子优化、分布式框架的那拨人重合度比较高。不太懂就不多说了。预训练在我看来预训练这块的工作最终肯定是赢家通吃的。现在只是因为大家都还在同一个水平线上也没有能和开源拉开差距卖api也卖不了多少所以看起来竞争还挺激烈。等到决出三六九等之后肯定没有必要存在那么多团队做pretrain。况且即使做pretrain的团队真正核心在干活的也没几个人。一千张卡可能不够供一个人用卡就那么多配用的人也就那么多。剩下的人做的事情我觉得都不是那么有意义不是说洗数据啥的不重要重要但对大多数人来说对个人价值提升不大。我之前也自己做基于lama的继续pretrain现在这块工作已经完全放弃了感觉没啥意义。再有所谓垂直领域大模型这个事情我觉得大概率是个伪命题各方面知识应该是相互促进补充的遵循奥卡姆剃刀原理我相信最终就是一个模型破一切。所以我认为虽然现在预训练目前在就业市场上可能还是有比较大的需求量的但是很多就是纯跟风迟早得死。对于择业的建议就是:自信自己顶级天赋顶级卷度势要干翻gpt4的人选这个。Alignment我其实觉得sft和强化学习都可以放一起不知道我这个小标题准不准确。反正都是在基座上进一步提升对话的效果。这块工作其实就开始一定程度接近业务了比如目前很多业务团队都会根据下游任务来构造数据进行sft训练。会不会以后基座足够强之后全靠few shot啥的就完全解决问题这个我不敢猜测。至少在国内基于开源模型做sft拿到业务上用应该是挺长一段时间会保持的状态所以这个方向看起来我觉得是目前市场上需求较大未来一段时间也还是会持续有比较大需求量的。想训模型的可以选这个方向我觉得挺好。应用开发这一块的岗位其实现在大家看到的还不多主要可能有两个原因吧第一是openai的接口在国内直接用是有监管问题的。第二是国内开源模型的水平还不行以及一些相关链路上的工作还没做完(比如functioncalling)。所以时机还不成熟还不到LLMnative应用大规模爆发的时候。但是我觉得毫无疑问这个方向的人才需求以后将远远超出前面几个方向加起来这就像是你搞安卓系统和安卓应用开发的对比一样。做操作系统开发才几个人安卓开发那真是不知道有多少了。我预计这个时间也不会太长一两年肯定够了所以现在找这个方向的机会开始布局也是很不错的。不过先训训模型等真的有机会起来也没问题毕竟你做应用开发对系统原理了解清楚肯定是优势。其他其实除了上面说这些还存在一些其他的方向比如类似guidance这样在align模型之后的和推理框架绑定比较强的组件我觉得以后应该会融入到推理框架的范围内。总结最后简单总结一下我认为现在总体的行业形势是资本进行了大规模投入但是基本堆在预训练上然后这个环节也容纳不了太多人就业而且暂时也创造不了多少商业价值。所以很有可能一段时间后会有一个下行的阶段现在做预训练这些创业公司死一批。然后随着应用端的工作越来越多大家慢慢把投入方向往下移往应用端发力这时候会有一些找准机会和方向的公司出来。顺利的话各种LLM native应用就走入千家万户。(就纯粹我自己的想象哈哈哈)总的来说我认为LLM肯定是一个好的方向现在进来不管做什么也算是比较早的了解原理的人后面做应用应该也会有一些优势。然后就是这个东西其实没有那么大难度有的人会鼓吹需要非常高的学历、有多少多少文章xxx才能做我觉得没啥道理。我前面说了我是本科学历对吧虽然我这个情况可能确实比较个例但是如果大家看我之前写的内容就知道很多工作其实就是在扣细节这个token对不对训练推理一致了不xxx的。你说需要多强的数学能力啥的我觉得其实没必要。真的搞的时候也都是调库过程中保持敏感性细致、观察很重要。当然有很多大佬他们全方位的强比如我看到guidance、exllama这些一两个人开发的库作者对数学原理的熟悉、以及极强的工程实现、性能优化能力让人叹为观止让人心向往之但是我又不是活不到明年了也未必就不能至吧。至少试试呗不行再说嘛。机会留给胆大的人我是成功了接下来看你自己了读者福利倘若大家对大模型抱有兴趣那么这套大模型学习资料肯定会对你大有助益。针对0基础小白如果你是零基础小白快速入门大模型是可行的。大模型学习流程较短学习内容全面需要理论与实践结合学习计划和方向能根据资料进行归纳总结包括大模型学习线路汇总、学习阶段大模型实战案例大模型学习视频人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型如何学习AI大模型作为一名热心肠的互联网老兵我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。