提示词(Prompt)

通过精心设计的输入指令,引导大模型生成符合需求的输出。
应用场景:撰写文章、媒体文案生成、广告创意等。
在这里插入图片描述

检索增强生成(RAG)

结合检索外部知识库与生成模型,提升回答的准确性和专业性。
应用场景:智能客服、聊天机器人、专业领域问答系统、企业知识库等
在这里插入图片描述

智能体(AI Agent)

自主执行任务的AI系统,可协同多个子代理完成复杂流程。
应用场景:制造业自动检测、医疗自动化管理、保险自动审批、自动化订单核对.
AI Agent

模型微调(Fine-Tuning)

在预训练模型基础上,用领域数据调整参数以适应特定任务。
应用场景:行业领域专用模型(如医疗、法律、金融、汽车、电商等等)

AI大模型的能力

大模型的能力是通过训练和推理得来,属于概率模型。
先进行海量知识的学习训练得到一个 概率模型(Transformer架构)。
当需要回答某问题时,通过概率模型,推理出回答的每一个字。

训练

让大模型掌握语言中字词、句法和语义的复杂规律

推理

根据输入内容上下文来不断推理出下一个字或词(专业术语叫token)

概率模型

推理的下一个字是随概率变化的,同一个模型同一个问题得到的结果可能都不一样。

PS.大模型既然是概率模型,就有可能得到错误的结果。

FLOPS(Floating-Point Operations Per Second,每秒浮点运算次数)是衡量计算机、处理器或硬件(如GPU、CPU)计算性能的核心指标。
FLOPS表示设备每秒能完成多少次浮点数运算(如:加减乘除), 1 TFLOPS=1万亿次浮点运算/秒(如H100的 4 PFLOPS)
【1 PFLOPS = 1024 TFLOPS; 1 TFLOPS = 1024 GFLOPS; 1 GFLOPS = 1024 MFLOPS 】

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐