兼容国产算力 大模型服务平台AI Max发布
伴随大模型落地从通用技术进步逐步迈向行业可用，6月28日，蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。该平台兼容适配主流开源大模型、国产算力，向企业提供进行模型训练、部署、评估、优化等一站式模型工作台，并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用，助力企业跑完AI应用业务落地的“最后一公里”。
“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈，云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚指出，云原生PaaS平台的大模型产品工具链不断完善，将加速大模型技术在行业应用中落地。
“对企业来说，大模型训练耗时耗力耗资源，AI Max不仅支持主流开源大模型的一键微调训练，还提供3步即完成的零代码模型开发环境，把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法，仅需少量数据即可进行训练，进一步提升数据的利用率和模型训练的效率。”蚂蚁数科云原生产品资深总监马振雄介绍。
据介绍，基于SOFAStack多云兼容属性，AI Max具备两层核心特性：在资源层，支持多种国产GPU算力平台纳管部署，企业按需灵活使用资源，使得有限的GPU资源被高效利用，同时降低服务器使用成本;在应用层，企业可以根据业务需求快速输出定制化的AI模型，构建服务业务需求的智能体，极大简化技术实施过程。
当企业开始构建大模型应用，还需要结合具备行业特性的业务经验。针对金融行业场景，SOFAStack融合金融助理支小助的实践包含其模型训练、推理能力、智能体研发等方面，可以帮助机构一键生成自身业务特色的智能体应用。过去9年，SOFAStack助力130家金融机构完成云原生架构转型。
“在大模型时代，SOFAStack可以承担PaaS在多云时代扮演的角色——通过构建AI原生软件服务，成为连接算力与应用的中坚力量。”蚂蚁数科云原生事业部总经理王磊表示。
据了解，自今年3月独立化运营以来，蚂蚁数科持续推进AItoB战略，SOFAStack、蚁盾等多个代表性产品均已发布大模型相关服务，借助AI技术助力产业智能化升级。
(主办方供图)
本文链接：http://knowith.com/news-1-935.html兼容国产算力 大模型服务平台AI Max发布
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
