Tiny LLM Universe大模型本身、RAG 框架、Agent 系统及大模型评估体系。一个大模型系统,完成大模型的 RAG 、 Agent 、Eval 任务

主体部分

  1. 图像生成模型--Tiny Diffusion
  2. 深入剖析大模型原理——Qwen Blog
  3. 逐步预训练一个大模型——Tiny Llama3
  4. 如何评估大模型——Tiny Eval
  5. 搭建 RAG 框架——Tiny RAG
  6. 一个最小的 Agent 系统——Tiny Agent
  7. 深入理解大模型基础——Tiny Transformer
  8. 一个基本的 GraphRAG 系统——Tiny GraphRAG

GraphRAG 作为近年来新兴的检索增强生成(RAG)技术,将图结构与大语言模型相结合,在复杂关系推理、知识关联检索等任务中展现出强大的能力。然而,对于初学者来说,GraphRAG 的概念体系庞杂,涉及图数据库、向量检索、图算法与LLM协同等多个环节,从原理到落地实现存在较高的理解门槛

Diffusion模型作为当下最流行的图像生成模型,其图像生成效果优秀、训练过程稳定,已经成为了图像生成领域的主流方案。然而,对于初学者来说,Diffusion模型的公式原理过于复杂,对于如何从公式出发实现对应的代码也很困惑,Diffusion模型的原理,熟悉训练、推理、评估的整套流程

参考:

tiny-universe:《大模型白盒子构建指南》:一个全手搓的Tiny-Universe - GitCode

录制文件

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐