面向企业客户启动文心大模子4.0 API调用效率测试恳求,宣告效率逾越17000家客户 ,国内构建在各行各业的首个商铺近500个场景中妨碍大模子运用落地探究……自往年3月面世以来,baidu智能云千帆大模子平台作为全天下首个一站式企业级大模子平台,原生运用为业界交出了唯逐个份“满分成绩单” 。全链
10月17日 ,模生baidu天下2023在北京首钢园召开。态系统baidu智能云在大会时期宣告:周全降级“云智一体”策略 ,宣告面向客户落地大模子的国内构建五类需要提供全栈效率妄想;面向AI原生运用开拓 ,重磅宣告“千帆AI原生运用开拓使命台” ,首个商铺减速企业AI原生运用落地;宣告国内首个AI原生运用商铺 ,原生运用以及国内首个大模子全链路生态反对于系统 ,全链赋能过错商业削减,模生共建 、态系统同享兴隆的宣告大模子财富生态 。
(baidu总体实施副总裁 、baidu智能云事业群总裁沈抖)
知足企业大模子落地五大需要 :baidu智能云降级“云智一体”策略
自2020年起,baidu智能云在业界争先提出“云智一体”策略,并在技术架构与效率等方面妨碍了一再迭代降级。本届baidu天下大会,“云智一体”的策略外在周全降级为“云智一体 ,深入财富 ,生态兴隆,AI普惠” 。
baidu总体实施副总裁、baidu智能云事业群总裁沈抖展现 ,家养智能与云合计的深度散漫是企业快捷落地AI原生运用的关键 ,这也是baidu智能云不断倡讲以及践行的“云智一体”理念 。当初,baidu总体所有运用以及效率全副基于”云智一体“技术架构运行在baidu智能云上 。此外,面向客户落地大模子的五类需要,baidu智能云基于千帆大模子平台打造的“大模子超级工场”分说给出了最佳效率妄想。
(大模子时期的云智一体)首先,针对于惟独算力需要的客户,千帆平台可能提供极致高效以及性价比的异构算力效率。在客户最体贴的大模子磨炼关键,经由火布式并行磨炼策略以及微秒级互联能耐,千帆平台可能实现万卡规模集群磨炼的减速比抵达95%;经由事条件防、事中实时发现、定位、处置 ,最大限度防止集群因倾向等原因发生的实用运行,后退实用磨炼光阴占比,万卡集群实用磨炼光阴占比抵达96%,短缺释放集群实用算力,大幅飞腾客户算力与光阴老本。
此外,千帆平台还兼容昆仑芯 、昇腾 、海光DCU 、英伟达、英特尔等国内外主流AI芯片 ,反对于客户以最小的切换老本实现算力适配。
面壁智能携手知乎,基于baidu智能云提供的AI算力集群,磨炼出“知海图AI”大模子以及多模态大模子Luca,在千卡集群上的实用磨炼光阴占比高达99% ,在保障模子磨炼不断性的同时 ,可能实现模子磨炼下场的高效收敛 。此外