大型语言模型的推理策略：预算意识的评估
大型语言模型（LLM）在近年来取得了惊人 … 阅读更多
AGI
语言模型能成为文本世界的模拟器吗？
近年来，大型语言模型（LLM）在各个领域 … 阅读更多
突破极限：高效扩展 Transformer 模型推理
大型语言模型（LLM）在自然语言处理领域 … 阅读更多
巨型语言模型的推理效率：分割与优化
近年来，巨型语言模型（LLM）在自然语言 … 阅读更多
深度学习高效运转：从基本原理出发
在现代的深度学习领域，如何优化模型性能成 … 阅读更多
让深度学习模型运行飞快：从基础原理出发
作为一名资深科技专栏作家，我接触过许多想 … 阅读更多
解码加速：Flash-Decoding 让长文本推理更快
大型语言模型（LLM）如 ChatGPT … 阅读更多
让你的深度学习模型“Brrr”起来：从基本原理出发
你是否想要提升深度学习模型的性能？面对这 … 阅读更多
大型语言模型推理系列：5. 深入分析模型性能
在上一篇文章中，我们深入探讨了 KV 缓 … 阅读更多
参数高效微调：让多模态大语言模型更强大
近年来，多模态大语言模型（MLLMs）的 … 阅读更多
KV 缓存：深度解析大型语言模型推理的内存挑战
大型语言模型（LLM）的推理过程通常需要 … 阅读更多
巨齿龙：无限上下文长度的 LLM 预训练与推理
近年来，大型语言模型（LLM）在各个领域 … 阅读更多
LLM 推理系列：深入解析 KV 缓存
在之前的文章中，我们介绍了 KV 缓存， … 阅读更多
闪存式大模型：用非结构化稀疏性实现高效低成本的大型生成模型推理
随着模型参数规模的快速增长，部署大型生成 … 阅读更多
大型语言模型的“闪存”：如何在内存有限的设备上高效运行？
大型语言模型（LLM）已经成为自然语言处 … 阅读更多
语言模型能学什么？从学习概率正则语言的角度看
大型语言模型（LLM）究竟能学到什么？这 … 阅读更多
探索语言模型的易学性：从概率有限状态语言的学习视角
引言 大型语言模型究竟能学到什么？这是一 … 阅读更多
告别矩阵乘法：探索轻量级语言模型的新纪元
大型语言模型（LLM）在自然语言处理领域 … 阅读更多
变形金刚竟是状态空间模型？揭秘高效序列模型的奥秘
近年来，变形金刚（Transformer … 阅读更多
循环神经网络：消失和爆炸梯度并非全部故事
循环神经网络（RNN）长期以来一直是建模 … 阅读更多