火山方舟是火山引擎旗下的大模型服务平台。这是一款大模型的服务平台,提供模型训练、推理、评测、精调等全方位功能与服务,内集成了多家 AI 科技公司及科研院所的大模型。
它在2023年的火山引擎V-Tech体验创新科技峰会上发布,主要为企业提供模型精调、评测、推理等全方位的平台服务(MaaS,即Model-as-a-Service)。
火山方舟的功能和特点包括:
- 模型集成:火山方舟集成了多家AI科技公司及科研院所的大模型,如百川智能、出门问问、复旦大学MOSS等,使用户能够便捷地接触到众多高质量的基座模型。
- 一站式对接:通过火山方舟平台和统一的工作流,用户可以一站式对接多家模型提供商,为不同场景选择最合适的模型。
- 模型精调:用户在火山方舟上可以不断积累精调数据集,方便地对一个或多个基座模型同时发起训练任务,并且模型精调的效果指标和运行情况会被实时追踪。
- 安全性:火山方舟已上线了基于安全沙箱的大模型安全互信计算方案,该方案利用计算隔离、存储隔离、网络隔离、流量审计等方式,确保模型的机密性、完整性和可用性,尤其适用于对训练和推理延时要求较低的客户。
- 内部实践:抖音集团内部已有十多个业务团队试用“火山方舟”,在代码纠错、文本分类、总结摘要、数据标注、归因分析等多个场景中探索,利用大模型能力促进降本增效。
总的来说,火山方舟是一个全方位的大模型服务平台,提供模型的集成、对接、精调等一系列服务,并注重用户的数据安全和模型的实效性。