面壁智能推出SALA架构9B模型,稀疏-线性混合引领高效AI新范式

发布时间:

2026-02-12 14:52:33

来源:松果财经

松果财经讯,面壁智能近日发布了一款基于全新稀疏-线性混合架构(SALA)的9B参数规模模型,在提升推理效率与降低计算成本方面取得重要突破。

面壁智能推出SALA架构9B模型,稀疏-线性混合引领高效AI新范式

SALA架构的核心在于将稀疏激活机制线性变换路径进行有机融合。与传统密集模型在每次推理时激活全部参数不同,SALA通过动态路由策略,仅为特定输入激活部分专家模块,大幅降低了计算开销。与此同时,模型中引入的线性计算路径能够高效处理通用特征,与稀疏专家模块形成协同。

面壁智能团队表示,这一设计使得9B模型在实际推理时的激活参数量仅相当于3B级别模型,却保持了接近甚至超越同规模密集模型的性能表现。在语言理解、代码生成与长文本处理等多项评测中,SALA-9B展现出优异的精度-效率平衡。

免责声明:所有平台仅提供服务对接功能,资讯信息、数据资料来源于第三方,其中发布的文章、视频、数据仅代表内容发布者个人的观点,并不代表泡财经平台的观点,不构成任何投资建议,仅供参考,用户需独立做出投资决策,自行承担因信赖或使用第三方信息而导致的任何损失。投资有风险,入市需谨慎。

古东管家

请先登录后发表评论

0条评论