百度:“文心千帆大模型平台”未来将成为大模型生产和分发集散地


(相关资料图)

5月9日下午,百度智能云在北京举行文心大模型技术交流会。百度智能云方面表示,正在内测的“文心千帆大模型平台”,是全球首个一站式企业级大模型生产平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链。

未来,文心千帆将提供两种服务:第一,文心千帆将以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,作为一个大模型生产平台,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。现场,百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。

目前企业应用大模型面临诸多难点:模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐。百度智能云方面认为,大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。

百度集团副总裁侯震宇表示,文心千帆大模型平台是全球首个一站式的企业级大模型平台。之所以称为全球首个一站式平台,是因为它不但提供包括文心一言在内的大模型服务,还提供大模型开发和应用的整套工具链。此外,该平台还支持各类第三方大模型,未来将成为大模型生产和分发的集散地。

目前,文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。在公有云服务方面,将提供:推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大幅降低企业部署大模型的门槛。百度智能云AI与大数据平台总经理忻舟在现场演示了如何微调大模型,这也是国内首次演示如何微调行业专属大模型的全过程。文心千帆大模型平台提供了可视化开发工具链,提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调,最快几分钟就可获得自己的专属大模型。

在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施)、租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部署能够满足对数据监管有严格要求的企业客户需求。

此外,记者了解到,百度内部产品也正在基于文心一言升级。比如,百度员工内部的智能工作平台“如流”现在增添了文心千帆AI小助手,可以代替同事自动回答各种问题,平均5秒就可以解答一个难题,大幅提升了工作效率。同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,将基于文心大模型全面升级,未来将在安全评估完成后上线。此外, 文心千帆大模型平台面向首批企业客户内测以来,正在与不同领域客户联合研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。百度集团副总裁袁佛玉表示:“截至目前,已有超过300家生态伙伴参与文心一言内测,在400多个企业内部场景取得测试成效。”

国内大公司纷纷推出大模型,对于企业来说,如何挑选一个合适的大模型成为新难题。在百度看来,企业选择大模型可以从三个标准评判:大模型本身的能力、大模型企业服务的能力、全栈技术积累程度。

(文章来源:新京报)

关键词: