本站记者谢岚

　　不久前，在全球 【边缘计算】大会上， 【网宿科技】携网宿边缘智能平台重磅亮相，并分享了网宿 【边缘计算】对于大模型时代的思考与探索。

　　 【网宿科技】边缘智能平台资深架构师陈云辉表示，在未来大模型将成为一种基础设施，每个行业甚至每个企业都会有属于自己的大模型。而如何更好地将大模型落地到具体应用场景、提升生产力，是产业共同探索的方向，也是网宿 【边缘计算】的机会所在。

　　 【边缘计算】怎样在大模型时代施展价值？在陈云辉看来， 【边缘计算】可以从微调训练和边缘推理两大场景切入。

　　眼下，大模型和 【AIGC】正引领全球科技新浪潮，而由于从零开始训练模型面临周期长，GPU需求大、成本高等许多问题，大模型的使用范式主要为“预训练+微调训练+提示词工程”，即基于预训练好的大模型进行领域知识微调训练或使用提示词工程，再应用到具体的场景，从而降低成本。

　　“这种模式可以加快 【AIGC】创新步伐，但大模型的参数量巨大，进行所有参数的微调成本特别高，LoRA成为有效的解决方法之一。网宿 【边缘计算】可以支持LoRA、QLoRa等轻量微调训练方法，大大降低大模型个性化、领域化的适配成本，增进 【AIGC】在垂直应用场景的落地。”陈云辉分析道。

　　不仅如此，随着多模态AI的发展和 【AIGC】在更多领域的应用， 【AIGC】生成的内容将涵盖图片、语音和视频，AI推理相对训练的成本占比将提升，对流量需求将越来越高。同时，随同 【AIGC】模型领域化、小型化、轻量化技术的发展，未来 【AIGC】对算力要求也将持续降低。

　　“因而大模型推理运算可以从中心下沉到边缘，实现更低的带宽成本、更快的响应速度。网宿在边缘侧有得天独厚的优势，可以很好地赋能边缘推理场景。”陈云辉表示。

　　作为可靠的 【边缘计算】服务商，网宿 【边缘计算】拥有明显的资源协同优势，可以与CDN业务在机房、算力、带宽、调度等方面充分协同，并且网宿基于全球2800个节点缔造的轻量化边缘智能平台，节点分布广泛，平台运营经验丰富，可以复用到大模型场景。

　　得益于以上优势， 【网宿科技】探索了面向大模型与 【AIGC】时代的产品形态，并逐步落地。记者了解到， 【网宿科技】基于网宿边缘智能平台，针对大模型推理、训练等场景，构建了边缘GPU算力平台、开源大模型训练部署平台，并输出垂直领域的解决方案，以适应市场需求和技术发展，让大模型赋能百业。

　　其中，网宿边缘GPU算力平台基于网宿广泛分布的节点资源，提供轻量化算力资源，支持GPU虚拟化，可满足轻量AI任务场景的切实需求，如AI推理、深度学习、图形可视化等。

　　网宿开源大模型训练部署平台基于开源预训练大模型，提供包含模型微调训练、性能评估、部署监控、轻量化推理等功能的端到端大模型服务平台，可降低大模型应用落地成本，帮助客户缔造自己专属的大模型。

　　另外，网宿提供垂直领域的解决方案，包含开箱即用的基于私有大模型的企业知识库解决方案，可以服务企业内部与外部客户，和针对电商领域的图像生成解决方案，如AI模特等，帮助垂直领域降本增效。

　　陈云辉表示，“以上三种产品形态分别对应Iaas、PaaS、SaaS层，未来我们希望缔造全栈解决方案，降低 【AIGC】的使用门槛。我们相信，随着大模型和 【AIGC】的广泛应用，网宿边缘智能平台将迎来更多 【用武之地】。”

　　值得强调的是，此次会上，陈云辉还重点展示了网宿边缘智能平台在AI应用场景的实践经验。

　　网宿边缘智能平台基于网宿丰富的节点管理和调度能力，针对 【边缘计算】场景提供云边一体化协同托管方案，可以一条龙纳管各类架构的边缘设备，将云上应用延伸到边缘，满足客户对 【边缘计算】资源的远程管控、数据处理、分析决策、AI应用等诉求。当前该平台已经服务于智能养殖、智能换电、智能勘测、智能安防等AI应用场景，成功帮助客户节约建设成本、提升运营效率。