华为云cto张宇昕:modelarts studio让大模型开发应用更便捷 -凯发网站
扫描二维码
随时随地手机看文章
在6月21日召开的华为开发者大会2024上,华为云cto张宇昕表示:“华为云对ai开发生产线modelarts进行升级,在ai开发基础设施和流水线之上,构建了大模型即服务平台modelarts studio。提供百模千态的第三方大模型托管服务,支持对大模型定制开发,并提供相应的工具和行业集成套件,让客户可以方便的将大模型与业务系统结合。”
图:华为云cto张宇昕
modelarts studio大模型即服务平台具备三大特点:
一、支持零代码、免配置模型开发:华为云沉淀盘古大模型的开发经验,以及100多个第三方大模型基于昇腾平台适配和调优的经验,为企业模型调优自动推荐最优配置参数。
二、支持多模型智能路由:modelarts studio能够根据任务类型、模型效果自动选择合适的模型,例如将复杂推理类任务路由给盘古处理,而将简单的文案生成类请求路由给开源模型来处理。从而提升企业的模型管理和维护效率,降低模型调用成本25%以上。
三、提供多个智能agent:modelarts studio沉淀了50多个智能agent,可以准确理解业务意图,分解复杂任务,帮助企业快速智能构建和部署大模型应用。