大模型应该有进行情景化感受的能力,比如看到文字或者听到音乐感到悲伤或者快乐。这是一种高层次的抽象能力。
将大量场景输入模型进行训练,输出一个较长的向量,携带有场景化的信息。场景可以宽泛也可以具体。这种向量本质上也是一种语言,但是其携带的信息量更大,因为无需人类看懂,只是机器与机器之间进行的通信。
这种向量携带的信息是一种模糊的感受。当遇到其他的类似的情景时,可以通过相似向量的查询得到类似的感受从而实现共情。

创作便是从一个输入向量开始,不断发散的查询到相似的向量,形成完整的故事或者画作。其发散程度是不定的,或许代表不同的流派风格。

现有的token只是进行简单的编码,其高层次抽象能力不足,还太单薄。

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐