一句话核心: Embedding = 将离散对象(文本/图像/用户行为)映射为连续向量的技术,本质是让机器通过向量空间中的相对位置理解语义关联。

通俗理解 Embedding 概念,可以理解成 每个词/图片像获得一张“智能身份证”,身份证号(向量)隐含其特征(如: 性别、 籍贯、民族等),但是在数据上展示就是一个多维向量。

然后通过“身份证号”的向量差距表示语义关联,从而实现机器理解语义。如:相似对象(如“猫”和“狗”)身份证号接近,差异大的(如“猫”和“汽车”)则相距甚远

掌握Embedding,就握住了AI理解现实世界的“语义密码本”!

是什么

5分钟AI知识网络图

核心特性

  • 语义保留:向量距离反映内容相关性(余弦相似度>0.8→强关联)
  • 可计算性:支持向量运算(如 "国王" - "男" + "女" ≈ "女王"
  • 降维高效:将GB级文本压缩为KB级向量

怎么

图解Embedding工作流

关键步骤解析

    1. 输入处理
  • • 文本:拆分为词/子词(如“深度学习”→["深","度","学","习"]
  • • 图像:分割为16x16像素块(ViT模型)
    1. 语义编码
  • • 通过自注意力机制计算上下文关联(如“苹果”在水果/公司场景向量不同)
    1. 池化压缩
  • • 平均池化:所有Token向量取平均
  • • [CLS]向量:BERT提取句子整体表征
    1. 归一化输出:L2归一化使向量模长为1,简化相似度计算

PS: Embedding 本质是 向量空间, 其最大的作用是计算语义关联。
池化压缩就是把多维向量压缩为1维,从而方便计算,常用压缩算法有:平均池化、[CLS]向量等。
归一化输出就是将很长的向量模长归一化,最终只输出成长度=1的向量,方便更多计算,如:使用点积可以稍微更快地计算余弦相似度。

Embedding生态

为了更好理解Embedding,还可以了解下Embedding能做什么以及周边生态。

Embedding生态

实战应用案例

理解完 Embedding概念,能让我们实际应用开发更有多选择和降低成本。

  1. 电商客服意图过滤(成本降低40%)

**问题:**70%用户提问与业务无关(如:“今天天气?”)

解决方案

Ebding应用案例-电商客服意图过滤

效果:减少无效LLM调用,响应速度提升3倍

  1. 医疗影像语义检索

输入:病理报告文本 + CT影像切片

技术方案

  • • 文本:BioBERT生成报告向量(理解“毛玻璃结节”)
  • • 图像:CLIP模型提取视觉特征
  • • 跨模态融合:共享向量空间检索相似病例

结果:诊断准确率提升35%,误诊率↓18%

常用 Embedding模型(2025最新)

模型 核心优势 适用场景 中文支持
Qwen3-Embedding MTEB多语言榜第1(70.58分) 多语言检索/代码理解 ✅ 优化
BGE-M3 混合检索(稠密+稀疏向量) 法律/金融精准匹配 ✅ 强
text-embedding-3 与OpenAI生态无缝集成 国际通用场景 ❌ 一般
NV-Embed 长文本处理(32K Token) 论文/合同分析 ✅ 中等

我们通过代码实战一下,如何用 FlagEmbedding 模型计算不同文本的相似度。

from FlagEmbedding import FlagModel
model = FlagModel('BAAI/bge-large-zh-v1.5', use_fp16=True)  # 加载中文模型
texts = ["深度学习", "神经网络"]
embeddings = model.encode(texts)  # 生成向量
similarity = embeddings[0] @ embeddings[1].T  # 余弦相似度
print(f"相似度:{similarity:.2f}")  # 输出:0.92

冷知识

    1. 医疗Embedding的生死权重
  • • “心肌梗死”向量与“胸痛”相似度达0.93,而与“胃炎”仅0.12
  • • 医生借该特性快速定位疑似误诊病例
    1. 多模态幻象
      CLIP模型把“熊猫吃竹子”图片与文本向量对齐,跨模态相似度超0.9,却把“竹子手机支架”误判为关联对象

大模型算是目前当之无愧最火的一个方向了,算是新时代的风口!有小伙伴觉得,作为新领域、新方向人才需求必然相当大,与之相应的人才缺乏、人才竞争自然也会更少,那转行去做大模型是不是一个更好的选择呢?是不是更好就业呢?是不是就暂时能抵抗35岁中年危机呢?

答案当然是这样,大模型必然是新风口!

那如何学习大模型 ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。但是具体到个人,只能说是:

最先掌握AI的人,将会比较晚掌握AI的人有竞争优势。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

但现在很多想入行大模型的人苦于现在网上的大模型老课程老教材,学也不是不学也不是,基于此我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近100余次后,终于把整个AI大模型的学习路线完善出来!

在这里插入图片描述

在这个版本当中:

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型路线+学习教程已经给大家整理并打包分享出来, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型学习资源包》免费分享(安全咨料,放心领取)👈

一、大模型经典书籍(免费分享)

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源

在这里插入图片描述

二、640套大模型报告(免费分享)

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、大模型系列视频教程(免费分享)

在这里插入图片描述

四、2025最新大模型学习路线(免费分享)

我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方二维码免费领取

👉CSDN大礼包🎁:全网最全《LLM大模型学习资源包》免费分享(安全资料,放心领取)👈

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐