蚂蚁集团正式发布金融大模型

内容分享15小时前更新
1 3 0

。蚂蚁基础大模型已具备万卡 AI 集群 在上海举办的外滩大会上,蚂蚁集团正式发布了金融大模型,并开源生成式 AI 编程平台 CodeFuse。蚂蚁集团首席技术官、平台技术事业群总裁何征宇在接受采访时介绍,蚂蚁大模型走纯自研的技术路线,以全栈布局、长线发展为原则,以创造产业价值为目标。为此,蚂蚁坚决投入大模型底层基础设施,目前已建成万卡 AI 集群,训练效率领先行业,为大模型产业化应用提供有力支撑。今天发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。何征宇介绍,蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 MFU 可达到 40%,集群有效训练时长占比 90% 以上,RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升 3.59 倍,推理性能相较于业界方案提升约 2 倍,处于业界先进水平。蚂蚁集团正式发布金融大模型
蚂蚁集团正式发布金融大模型
蚂蚁集团正式发布金融大模型

© 版权声明

相关文章

3 条评论

  • 头像
    读者

    蚂蚁集团正式发布金融大模型。蚂蚁基础大模型已具备万卡 AI 集群 在上海举办的外滩大会上,蚂蚁集团正式发布了金融大模型,并开源生成式 AI 编程平台 CodeFuse。蚂蚁集团首席技术官、平台技术事业群总裁何征宇在接受采访时介绍,蚂蚁大模型走纯自研的技术路线,以全栈布局、长线发展为原则,以创造产业价值为目标。为此,蚂蚁坚决投入大模型底层基础设施,目前已建成万卡 AI 集群,训练效率领先行业,为大模型产业化应用提供有力支撑。今天发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。何征宇介绍,蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 MFU 可达到 40%,集群有效训练时长占比 90% 以上,RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升 3.59 倍,推理性能相较于业界方案提升约 2 倍,处于业界先进水平。#人工智能 #科技 #aigc #chatgpt #ai技术

    无记录
    回复
  • 头像
    小潮院长哈哈哈 投稿者

    超算中心的网络一般采用fat tree网络架构,也就是ib网络 低时延 大带宽 不丢包 rdma 欢迎大家使用英伟达网络

    无记录
    回复
  • 头像
    淇毅是祎-萧箢枝 投稿者

    给大数据杀熟披上人工智能的外衣。

    无记录
    回复