![17](/uploads/image/pcimg/17.jpg)
网宿科技:边缘计算将在大模型时代迎来更多用武之地-九游会官网真人游戏第一品牌
2023-07-18 12:47:22 来源:techweb 阅读量:6629
,近日,在全球边缘计算大会上,网宿科技、分享了网宿边缘计算对于大模型时代的思考与探索。
网宿科技边缘智能平台资深架构师陈云辉表示,在未来大模型将成为一种基础设施,每个行业甚至每个企业都会有属于自己的大模型。而如何更好地将大模型落地到具体应用场景、提升生产力,是产业共同探索的方向,也是网宿边缘计算的机会所在。
边缘计算如何在大模型时代发挥价值?在陈云辉看来,边缘计算可以从微调训练和边缘推理两大场景切入。
眼下,大模型和aigc正引领全球科技新浪潮,而由于从零开始训练模型面临周期长,gpu需求大、成本高等问题,大模型的使用范式主要为 “预训练 微调训练 提示词工程”,即基于预训练好的大模型进行领域知识微调训练或使用提示词工程,再应用到具体的场景,从而降低成本。
“这种模式可以加快aigc创新步伐,但大模型的参数量巨大,进行所有参数的微调成本非常高,lora成为有效的解决方法之一。网宿边缘计算可以支持lora、qlora等轻量微调训练方法,大大降低大模型个性化、领域化的适配成本,促进aigc在垂直应用场景的落地。”陈云辉分析道。
“因而大模型推理运算可以从中心下沉到边缘,实现更低的带宽成本、更快的响应速度。网宿在边缘侧有得天独厚的优势,可以很好地赋能边缘推理场景。”陈云辉表示。
作为领先的边缘计算服务商,网宿边缘计算拥有显著的资源协同优势,可以与cdn业务在机房、算力、带宽、调度等方面充分协同,并且网宿基于全球2800个节点打造的轻量化边缘智能平台,节点分布广泛,平台运营经验丰富,可以复用到大模型场景。
得益于以上优势,网宿科技探索了面向大模型与aigc时代的产品形态,并逐步落地。据悉,网宿科技基于网宿边缘智能平台,针对大模型推理、训练等场景,构建了边缘cpu算力平台、开源大模型训练部署平台,并输出垂直领域的九游会j9官方登录入口的解决方案,以适应市场需求和技术发展,让大模型赋能百业。
其中,网宿边缘gpu算力平台基于网宿广泛分布的节点资源,提供轻量化算力资源,支持gpu虚拟化,可满足轻量ai任务场景的需求,如ai推理、深度学习、图形可视化等。
网宿开源大模型训练部署平台基于开源预训练大模型,提供包含模型微调训练、性能评估、部署监控、轻量化推理等功能的端到端大模型服务平台,可降低大模型应用落地成本,帮助客户打造自己专属的的大模型。
此外,网宿提供垂直领域的九游会j9官方登录入口的解决方案,包括开箱即用的基于私有大模型的企业知识库九游会j9官方登录入口的解决方案,可以服务企业内部与外部客户,以及针对电商领域的图像生成九游会j9官方登录入口的解决方案,如ai模特等,帮助垂直领域降本增效。
陈云辉表示,“以上三种产品形态分别对应iaas、paas 、saas层,未来我们希望打造全栈九游会j9官方登录入口的解决方案,降低aigc的使用门槛。我们相信,随着大模型和aigc的广泛应用,网宿边缘智能平台将迎来更多用武之地。”
值得一提的是,此次会上,陈云辉还重点展示了网宿边缘智能平台在ai应用场景的实践经验。
网宿边缘智能平台基于网宿丰富的节点管理和调度能力,针对边缘计算场景提供云边一体化协同托管方案,可以一站式纳管各类架构的边缘设备,将云上应用延伸到边缘,满足客户对边缘计算资源的远程管控、数据处理、分析决策、ai应用等诉求。目前该平台已经服务于智能养殖、智能换电、智能勘测、智能安防等ai应用场景,成功帮助客户节约建设成本、提升运营效率。
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。
猜您喜欢