9月5日新闻,在2023百度云智大会上,百度智能云颁发千帆大模型平台2.0全面升级颁布。
据百度云官方介绍,千帆大模型平台2.0升级带来了多项改进:
在工具链方面,大模型开发、训练、部署、利用开发各个环节是缜密结合的。据介绍,千帆整套的工具链能够无缝衔接全性命周期的各个业务流程,最大化提升效能。以前,技术团队一个月能力调试、跑通看到大模型的成效,在千帆一站式工具链平台,当天就能够实现。
在算力效力方面,千帆底层是一套集中了异构算力集群、高速互联的网络、高机能存储,可能支持万卡规模训练的AI算力基础设施,可将大模型训练、推理的成本降到最低。
在数据方面,千帆不仅纳管大模型,还可增壮大模型的能力。本次全新升级中文加强,可大幅提升大模型中文理解和天生能力,例如LIama2的国表大模型,也可实现中文对话好的成效。同时还全面提升训练和推理机能,训练LlaMA 2的总体吞吐能够提升1/4,推理甚至能提升3倍。
在企业级安全方面,通过千帆的安全机造,企业可能构建四层安全防线,全方位保险大模型的内容安全、数据安全和系统安全。对合规要求很高的客户,千帆支持国内、国表主流芯片和操作系统,也支持私有化部署,确保每个企业自己的大模型都自主可控。
此表,在2023百度云智大会上,百度集团执行副总裁、百度智能云事业群总裁沈抖暗示,截至目前百度网盘“云一朵”智能助理累积使用人数已经超过600万。
IT之家注:千帆大模型平台是百度智能云推出的一站式企业级大模型平台,可以为企业提供大模型开发全流程工具链和整套环境,号称能够“让企业高效能、低成本地拥抱大模型”。
8月初,千帆大模型平台实现第一轮升级,全面接入了LLaMA2全系劣注ChatGLM2等33个大模型,成为国内占有最多大模型的平台;同时,千帆大模型平台上线103个预置Prompt模板,覆盖对话、编程、电商十余个场景。
而此刻,千帆大模型平台纳管的国内表主流大模型达到了42个再创新高,还预置了41个有行业特色的数据集,月活企业数已近万家,覆盖金融、造作、能源、政务、交通等行业的400多个业务场景。



