新闻资讯

成本降低20% ?蚂蚁集团回应自研大模型训练降本

3月24日,针对媒体对蚂蚁百灵大模型训练成本的报道,蚂蚁集团方面回应界面新闻称,蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。

此前有报道称,蚂蚁集团正使用中国制造的半导体来开发AI模型训练技术,这将使成本降低20%。知情人士称,蚂蚁集团使用了包括来自阿里巴巴和华为的芯片,采用混合专家(MoE)机器学习方式来训练模型。他们表示,蚂蚁集团获得了与采用英伟达H800等芯片训练相似的结果。

其中一位知情人士称,蚂蚁集团仍在使用英伟达的产品进行人工智能开发,但目前其最新模型主要依赖于包括AMD产品和中国芯片在内的替代产品。

该技术成果论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》已在预印版Arxiv平台上发表。

除了自研性能领先的大模型以外,该技术论文更大的突破在于提出了一系列创新 *** ,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

作为国内较早布局AI大模型的厂商,蚂蚁自研的百灵大模型2023年已通过备案,重点布局在生活服务、金融服务、医疗健康等场景的应用。

 

  • 特斯拉FSD在华普及的难题不只是本地数据
  • 特朗普废除美联邦雇员集体谈判权 美工会提起诉讼
  • 中国驻缅使馆:已确认有10名中国公民在地震中受伤
  • 美国商务部长卢特尼克:美国今日与贸易伙伴会谈
  • 水滴筹:每年“爱心首页”流量助患者多筹2.2亿 覆盖近20万大病患者
  • 网易雷火负责人胡志鹏晋升集团执行副总裁?官方暂无回应
  • 比特币跌破82000美元/枚
  • 2025【安心奖】正式启动:安心消费 快乐生活!
  • 股市遭抛售,华尔街 “恐慌指标” 升至 8 个月来新高
  • 以色列总统称应推动与沙特关系正常化
  • 欧洲央行行长拉加德:控制通胀是场“持久战”
  • 里士满联储行长巴尔金警告称关税政策就像“重重迷雾”
  • 知情人士:俄总统特别代表本周或将访美
  • 海警舰艇编队按一个中国原则环台岛执法管控
  • 小米SU7高速上碰撞爆燃致3人死亡,四大疑问待解
  • 关键词:
    >下一篇:资生堂开始下沉