心法利器[141] | 大模型学习的下一站
心法利器
本栏目主要和大家一起讨论近期自己学习的心得和体会。具体介绍：仓颉专项：飞机大炮我都会，利器心法我还有。
2024年新的文章合集已经发布，获取方式看这里：再添近20万字-CS的陋室2024年文章合集更新，更有历史文章合集，欢迎下载。
往期回顾
假期正好有个空档思考一下，后续的大模型该学一些看一些什么，来帮助自己更好的提升，今天我给大家说一下最近我的思考历程吧。
最近大模型版本的发展现状
最近发现，大模型相关的大环境有一些如下现象。（纯属个人的感觉，仅通过最近接触到的论文和分享来聊的，如果有偏差大家大胆指出来啊，我也有点慌怕自己在茧房里出现认知偏差）
大部分厂的发布节奏已经慢下来了，卷榜单的卷度下降，目前大家看到的比较多的可能就是千问在有节奏高频地出，一骑绝尘，其他的似乎是慢了下来。以大模型为核心竞争力的厂，更多要开始聚焦产品化和价值转化。
大家关注大模型本身的热情也降下来了，应该也有不少人发现，到了最近，本身大模型的提升在实际应用就要稍微打个折扣，而且现在模型的切换在实际场景下的提升又进一步收窄，大家的热情也不高了。
大模型的相关框架也逐步形成，以llama-factory、ms-swift为首的训练框架，vllm、sglang为首的部署框架，不仅完善，而且更新的也很快，大家使用起来的效率有很明显的提升。
有关强化学习方面，本身研究和实验实施的难度不小，训练成本也比较高，新东西偶尔有出来但并不频繁。不过，因为现在大家的大模型应用都已经逐步进入深水区，提升点不多了，因此大家有开始尝试一些强化学习操作，看在现实应用有没有提升。
RAG这个名词，大家提的少了很多，但实际仔细看很多分享和论文，都有RAG的影子，大都是把有关技术融合到里面了，尤其是Agent相关的技术里。但说真的，RAG这个说法大家聊的确实少了，说不定，会在将来又以新的模式出现。
Agent是这些概念里最保温甚至是现阶段比较火的，重点在于利用它弄出了很多有效的应用，里面的很多思路思想在应用中都很重要，大家做的东西都在不自觉地就往这个方向靠了。
相关技术的沉淀和价值开始体现，很多大厂开始有分享一些应用的里程碑式的结果，最近的分享也开始变多了。
总结下来，更宏观的现状就大概是这样。
底层技术在降温（不代表不重要，只是说不那么火），大模型基座、RAG、推理等。
虽说底层技术降温，另一个角度，工具逐渐成熟，开发简单，转化成产品也更简单。
务实。大家的目光开始聚焦在具体应用和价值转化（毕竟生存/盈利还是很有必要的），Agent和与之配套的技术受到关注，与之类似的还有类似技术在原有热门的方向上的应用，例如搜广推。
走得快的团队已经利用这些技术形成沉淀和产品化优势，并开始外溢/分享。
后续的一些学习方向
基于这些现状，可以开始考虑自己的一些学习方向。
一些已经沉淀下来，被反复验证，广泛认可的技术，一定要熟悉甚至是能实现，甚至要能熟练掌握，例如最基础的sft、RL的技术，至少类似llama-factory来进行训练的任务，一定要熟悉，这个已经算是基操了。
通过广泛学习应用案例和相关论文，了解目前有关技术在实际场景中的应用思路和主要流派。目前我的视角看，比较常见的是两种观点，一种是在原有技术的基础上引入新技术而带来新的提升，另一方面是从零开始的，直接利用新的技术，甚至是端到端地完成一些具体任务，两种思路并无绝对优劣，也没有绝对的边界，只是一种辅助分析的思路框架。
PS：一旦动了想了解实际应用的念头，我就爱看搜广推的相关论文和经验分享，主要是因为这些领域的尝试动作会更激进，也更快，经验和思路吸收会很丰富，相比某些论文会更接地气，应用层面的实用性也会更高，挺推荐大家试试的。
随着技术迭代，Agent这个领域里积累了大量系统设计的思路和方案，很多新想法都被戴上Agent的帽子来发布，尽管这个技术领域内有很多“新瓶装老酒”的技术，但还得承认这里确实有很多“新酒”，所以多一些留意。
可能真不能局限在文本了，多模态相关的技术，需要多关注和了解。
在前沿研究上，那些“很容易就被想到”的想法，很可能都已经被想的差不多了，还想要进一步研究，一方面需要更有深度、更多、更有花样的实验，另一方面可能要在小方向、小领域寻找新的突破点，否则难度肯定还会不小，而且除了卷脑子，还得卷算力，我的视角是感觉，类似千问那样的迭代进度，背后肯定有大量的实验，经常做实验的小伙伴肯定知道，做实验并非每次都符合预期的，甚至不符合预期的占比会更多。因此，量力而行。
码道开发者社区，聚焦华为云码道 CodeArts 代码智能体，沉淀 Agent、Skill、鸿蒙开发实战内容，供开发者查阅资料、交流技术、分享工程实践
更多推荐
9
0- 0
已为社区贡献3条内容
所有评论(0)