字节豆包大模型团队提出稀疏模型架构 推理成本最高可降低83%

2025-02-12 12:35:26|发布者：思念**寄去
Aa 小 中 大
分享到：

思念**寄去

该用户很懒，什么也没介绍！

　　2月12日，据豆包大模型团队消息，字节跳动豆包大模型Foundation团队近期提出UltraMem，一种同样将计算和参数解耦的稀疏模型架构，在保证模型效果的前提下解决了推理的访存问题。据介绍，该架构有效解决了MoE推理时高额的访存问题，推理速度较MoE架构提升2-6倍，推理成本最高可降低83%。

（文章来源：界面新闻）

查看完整内容

报告网所有产经新闻是由用户上传分享，未经用户书面授权，请勿作商用！

标签

品牌、内容合作请点这里： 寻找合作>>

模型行业标签

模型相关推荐

模型推荐资讯

模型相关资讯

推荐报告

相关图表