本周精选 12篇大模型领域前沿论文，覆盖多模态融合、训练与优化策略、安全与对齐、行业应用等核心方向。全部100多篇论文皆可扫码免费领取。

➔➔➔➔点击查看原文，获取更多大模型相关资料https://mp.weixin.qq.com/s/o4FoqEbTj1jh1a8wwGDWWg

一、模型压缩与效率优化

1、ButterflyQuant: Ultra-low-bit LLM Quantization through Learnable Orthogonal Butterfly Transforms

作者：Bingxin Xu, Zhen Dong, Oussama Elachqar, Yuzhang Shang

亮点：提出可学习正交蝴蝶变换替代固定Hadamard矩阵，解决2位量化中的灾难性性能损失。通过连续参数化实现平滑优化，保证正交性的同时将计算复杂度降至O(n log n)，仅需128个校准样本和单GPU几分钟训练。在LLaMA-2-7B上实现15.4的困惑度，显著优于QuaRot的22.1。

论文：http://arxiv.org/abs/2509.09679v1

Comments：为极端低比特量化提供了新范式，兼顾效率与性能，适合消费级硬件部署。

2、ENS I: Efficient Non-Interactive Secure Inference for Large Language Models

作者：Zhiyu He, Maojiang Wang, Xinwen Gao, Yuchuan Luo, Lin Liu, Shaojing Fu

亮点：结合CKKS加密方案与轻量级BitNet架构，优化加密矩阵乘法复杂度。创新地将sigmoid注意力机制与同态加密结合，无需重训练即可替代softmax。通过在RMSNorm中嵌入Bootstrapping操作，将加密刷新频率降低至1%，实现8倍矩阵乘法加速和2.6倍softmax推理提速。

ENSI’s high-level architecture

论文：http://arxiv.org/abs/2509.09424v1

开源代码：https://github.com/sugarhh/ENSI

Comments：突破了安全推理的效率瓶颈，为隐私敏感场景的LLM部署提供可行方案。

3、EvolKV: Evolutionary KV Cache Compression for LLM Inference

作者：Bohan Yu, Yekun Chai

亮点：提出基于进化搜索的动态KV缓存压缩框架，将缓存分配转化为多目标优化问题。在11项任务中，相比启发式方法性能提升达7个百分点，在代码补全任务中仅用1.5%缓存预算即超越全缓存设置。

Illustration of the EvolKV framework

论文：http://arxiv.org/abs/2509.08315v1

Comments：重新定义了KV缓存管理范式，证明学习式压缩策略的巨大潜力。

二、多模态与跨域融合

4、Measuring Epistemic Humility in Multimodal Large Language Models

作者：Bingkui Tong, Jiaer Xia, Sifeng Shang, Kaiyang Zhou

亮点：构建首个评估MLLM"认知谦逊"的基准HumbleBench，包含物体、关系、属性三类幻觉测试。通过"以上都不对"选项强制模型识别错误，揭示现有模型在拒绝错误选项能力上的显著缺陷。基于全景场景图生成问题，经GPT-4-Turbo生成和人工严格筛选确保质量。

Construction pipeline of HumbleBench.

论文： http://arxiv.org/abs/2509.09658v1

开源代码：https://github.com/maifoundations/HumbleBench

Comments：填补了多模态模型可靠性评估的关键空白，尤其适用于安全 critical 场景。

5、Can Multimodal LLMs See Materials Clearly? A Multimodal Benchmark on Materials Characterization

作者：Zhengzhao Lai, Youbin Zheng, Zhenyang Cai, Haonan Lyu, Jinpu Yang, Hongqing Liang, Yan Hu, Benyou Wang

亮点：发布首个材料表征图像理解基准MatCha，包含1500个需专家知识的问题，覆盖材料研究4大阶段21项任务。评估显示现有MLLM与人类专家存在显著差距，尤其在高阶专业知识和复杂视觉感知任务上表现不佳。

论文：http://arxiv.org/abs/2509.09307v1

开源代码：https://github.com/FreedomIntelligence/MatCha

Comments：为材料科学领域的AI应用提供了精准评估工具，暴露了现有模型的专业适配短板。

6、Visual Representation Alignment for Multimodal Large Language Models

作者：Heeji Yoon, Jaewoo Jung, Junwan Kim等

亮点：提出VIRAL正则化策略，将MLLM内部视觉表征与预训练视觉基础模型对齐。通过保留关键视觉细节并补充额外视觉知识，在多模态基准测试中实现全任务性能提升，尤其改善了物体计数和空间推理等视觉密集型任务。

VIsual Representation ALignment (VIRAL

论文：http://arxiv.org/abs/2509.07979v1

开源代码：https://cvlab-kaist.github.io/VIRAL

Comments：为解决MLLM的"重文本轻视觉"倾向提供了有效方案，增强了模型对细粒度视觉信息的捕捉能力。

➔➔➔➔点击查看原文，获取更多大模型相关资料https://mp.weixin.qq.com/s/o4FoqEbTj1jh1a8wwGDWWg

三、模型能力与训练方法

7、The Illusion of Diminishing Returns: Measuring Long Horizon Execution in LLMs

作者：Akshit Sinha, Arvindh Arun, Shashwat Goel, Steffen Staab, Jonas Geiping

亮点：揭示单步准确率的边际提升可复合为长任务执行能力的指数级改善。发现模型存在"自我条件反射"效应——上下文包含先前错误会增加后续犯错概率，且该效应不随模型规模增大而减弱。思维链模型无此现象，能在单轮中执行更长任务。

论文：http://arxiv.org/abs/2509.09677v1

开源代码：https://github.com/long-horizon-execution/measuring-execution

Comments：重新定义了LLM scaling价值的评估维度，为长上下文模型设计提供关键洞见。

8、CDE: Curiosity-Driven Exploration for Efficient Reinforcement Learning in Large Language Models

作者：Runpeng Dai, Linfeng Song, Haolin Liu, Zhenwen Liang, Dian Yu, Haitao Mi, Zhaopeng Tu, Rui Liu, Tong Zheng, Hongtu Zhu, Dong Yu

亮点：提出基于内在好奇心的强化学习框架CDE，将演员的困惑度和评论家的多头价值估计方差作为探索奖励。理论证明该机制能惩罚过度自信错误并促进正确响应多样性，在AIME基准上比标准RLVR（GRPO/PPO）提升约3个百分点。

Illustration of the multi-head critic framework.

论文：http://arxiv.org/abs/2509.09675v1

Comments：有效缓解了RLVR中的早熟收敛和熵坍缩问题，为LLM推理能力提升提供新训练范式。

9、Bridging the Capability Gap: Joint Alignment Tuning for Harmonizing LLM-based Multi-Agent Systems

作者：Minghang Zhu, Zhengliang Shi, Zhiwei Xu, Shiguang Wu, Lingjie Wang, Pengjie Ren, Zhaochun Ren, Zhumin Chen

亮点：提出MOAT多智能体联合对齐框架，通过迭代优化规划代理与执行代理的协作能力。规划代理优化阶段生成更易执行的子目标序列，执行代理改进阶段利用自生成的多样化样本增强泛化。理论证明训练过程单调收敛，在6个基准测试中平均提升3.1%（在分布内任务）和4.4%（分布外任务）。

The proposed MOAT framework iteratively alternates between two stages

论文： http://arxiv.org/abs/2509.09629v1

开源代码：https://github.com/ZMingHang/MOAT/tree/master

Comments：解决了多智能体系统中能力不匹配问题，显著提升复杂任务分解与执行效率。

四、安全与可靠性

10、Steering MoE LLMs via Expert (De)Activation

作者：Mohsen Fayyaz, Ali Modarressi, Hanieh Deilamsalehy, Franck Dernoncourt, Ryan Rossi, Trung Bui, Hinrich Schütze, Nanyun Peng

亮点：提出SteerMoE框架，通过检测和控制与特定行为关联的专家模块来引导MoE模型。在11个基准和6个LLM上，安全性能提升达20%，忠实度提升27%。攻击模式下可使安全性下降41%，与越狱方法结合可完全绕过防护，暴露专家层隐藏的对齐伪装问题。

论文：http://arxiv.org/abs/2509.09660v1

开源代码：https://github.com/adobe-research/SteerMoE

Comments：揭示了MoE架构的安全双刃剑特性，为模型对齐和防护提供新研究方向。

11、LLMs Don't Know Their Own Decision Boundaries: The Unreliability of Self-Generated Counterfactual Explanations

作者：Harry Mayne, Ryan Othniel Kearns, Yushi Yang, Andrew M. Bean, Eoin Delaney, Chris Russell, Adam Mahdi

亮点：系统评估LLM自生成反事实解释（SCE）的有效性，发现模型生成的解释虽多为有效但极不简洁，而要求生成简洁解释时又常因修改不足而失效。这种有效性-简洁性权衡在多模型和数据集上一致存在，证明SCE作为解释工具存在根本性缺陷。

Study design.

论文：http://arxiv.org/abs/2509.09396v1

开源代码：https://github.com/HarryMayne/SCEs

Comments：对高风险领域依赖LLM自解释提出警示，强调需开发外部解释机制。

12、YouthSafe: A Youth-Centric Safety Benchmark and Safeguard Model for Large Language Models

作者：Yaman Yu, Yiren Liu, Jacky Zhang, Yun Huang, Yang Wang

亮点：构建首个青少年LLM交互安全基准YAIR，包含12,449条对话片段和78种细粒度风险类型，覆盖 grooming、边界侵犯等青少年特有风险。现有 moderation模型表现不佳，而提出的YouthSafe模型显著提升检测性能，为青少年提供更适配的AI防护。

Overview of the YAIR-Bench data curation pipeline.

论文：http://arxiv.org/abs/2509.08997v1

开源代码：https://docs.google.com/spreadsheets/d/e/2PACX-1vQUHPzz_M_zxMRlK6ZtcLFOU6e-6wqBUSn0ozmtYhI1dv6IE3q5WDK_OiqHKAmDaYi1HhQZejeOS19_/pubhtml

Comments：填补了青少年AI安全研究的空白，为年龄适配的安全机制设计提供重要参考。

➔➔➔➔点击查看原文，获取更多大模型相关资料https://mp.weixin.qq.com/s/o4FoqEbTj1jh1a8wwGDWWg