8月15日,讯飞星火认知大模型V2.0如期升级,科大讯飞董事长刘庆峰、研究院院长刘聪共同解读新一代星火的代码能力和多模态能力升级。
发布会上,刘庆峰还宣布,科大讯飞与华为联合发布星火一体机。
基于华为鲲鹏CPU(中央处理器)+昇腾GPU(图形处理器),另外联合华为存储和网络提供整机柜方案,FP16(半精度浮点数格式)算力2.5 petaFLOPS(1 petaFLOPS为每秒运行一千万亿次浮点运算),星火一体机让企业可以在国产自主创新的平台上,更方便、更自主、更安全可控地私有化部署大模型。
相较之下,在当下大模型训练中最为流行的英伟达DGX A100,其单节点包含8块GPU,可以输出5 PetaFLOPS的FP16算力。
星火一体机是首个基于国产算力一体化部署,既能做大模型训练与推理,又能做大模型定制优化的商用设备,可用于问答系统、对话生成、知识图谱构建、智能推荐等领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。
“通用人工智能要根植在自主可控、算力安全平台上”,刘庆峰介绍,科大讯飞和华为已在联合攻关算力卡脖子的问题。
关乎算力的安全、卡脖子问题,华为与科大讯飞强强联合,站在自主可控的角度,共同在生成的软硬件平台和软件的支撑工具上,将算力、高性能算子库、多卡的高速互联以及分布式存储结合起来,联合针对人工智能所需最重要的算子库来进行甄别和打磨。在此基础上架构科大讯飞的训练和数据闭环的全流程设计,以及训练和推理一体化设计的自研大模型训练平台。
基于庞大市场、复杂业态的丰富应用场景,是中国发展人工智能的独特优势。场景驱动,做真正对产业有用的事,是讯飞长期坚持的方向。
“要能够在看得见摸得着的场景上,能够产生实实在在的应用价值,能够用统计数据来证明应用成效。”刘庆峰说道,各行业里的应用,确实要从原来只是一味的构建概念推广,回归到场景驱动。
基于场景理解给客户带来的价值是什么,是新增效益,还是节约成本。由企业将场景定义出来,再由星火大模型提供通用的能力底座,提供训练平台。企业在此基础上做相应的优化,使其内部满足各场景需求。提高质量的同时能够让企业在使用的过程中快速的在低技术门槛自己做训练,使其赋能千行百业。
具体来说,星火一体机可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制优化模式,以及办公、代码、客服、运维、营销、采购等10种以上即开即用的丰富场景包,支持3种模型尺寸供用户选择。
刘庆峰表示,有了这些能力,就可以使得每一家企业、每一个行业、每一个学校、每个医院都有机会构建自己的专属大模型。
目前,讯飞星火已完成的在金融、政务、汽车等领域的9个专属大模型的数据显示,在场景任务优化和私域知识增强等方面平均效果能够提升20%。
发布于:上海
相关推荐
科大讯飞携手华为:做真正对产业有用的事
华为与科大讯飞启动 AI 存力底座联合创新项目
中国移动元宇宙产业联盟成立 华为、科大讯飞、小米等为首批成员
科大讯飞:危机已在眼前
科大讯飞负重飞
科大讯飞:一套输入法撑起千亿市值?
科大讯飞站在《隆中对》的路口
公司X光——科大讯飞
科大讯飞发布2020年度ESG报告,AI赋能民生公益彰显社会责任
大模型混战:科大讯飞不能输的一战
网址: 科大讯飞携手华为:做真正对产业有用的事 http://m.xishuta.com/newsview86853.html