火山引擎发布高速训练引擎,实现高性价比模型训练 当前速递
来源:中关村在线      时间:2023-04-21 22:21:07


【资料图】

近日,2023火山引擎春季FORCE原动力大会在上海外滩落下帷幕。会上,火山引擎发布了“智能推荐-高速训练引擎”。火山引擎总裁谭待表示,希望通过这款新的产品,实现高性价比模型训练,全力支持企业在云上的智能创新。

谭待介绍到,推荐是移动互联网时代做好内容分发的核心因素,火山引擎早在2016年就开始对手机厂商等客户提供内容推荐服务。

随着客户的数据沉淀越来越多,算法模型需要快速迭代,越来越多的企业面临稀疏模型的训练速度无法满足需要的问题,导致模型更新缓慢影响线上效果。而火山引擎发布的“智能推荐-高速训练引擎”将模型的训练推理效率进行极致优化,让更多企业通过云服务,享受与字节推荐一样的智能推荐基础设施。

他表示,火山引擎最新推出的“智能推荐-高速训练引擎”,可以为合作伙伴提供超高速训练,实现软硬一体优化,超高速训练100GB-10TB+超大模型;“智能推荐-高速训练引擎”还具有高可用性,基于PS-Worker架构,在服务发现的基础上,支持 PS、Chief、Worker 全方位容错;在高速、通用的基础上,“智能推荐-高速训练引擎还保证了数据安全,实现了成本节约。“智能推荐-高速训练引擎”仅传输高度脱敏后的训练样本,使用了不可逆的哈希技术,保障数据安全,支持多种模型瘦身技术、支持多种GPU模式、优化了大量算子等,大幅提升训练和推理性能,基于字节内部的实践来看,综合成本可降低25%~67%。

同时谭待也提出,当下,只有做好云上创新才能实现上云价值。火山引擎全力支持大模型发展,目前,火山引擎已经支持了包括MiniMax、智谱等众多企业在大模型领域快速发展。

谭待认为,未来大模型会在各个行业内不断兴起,行业专属、企业专属的大模型百花齐放,火山引擎也会全力支持好“多云多模型”的未来架构,让更多企业能够在大模型领域的发展得到更好的算力保障。(作者:张绍)

标签: