河南首个!京东云(中原)算力中心上线Deepseek模型部署和推理服务

2025-02-07 来源: 郑州晚报 郑州客户端官方网站 分享到:

2月6日,记者从京东获悉,蛇年春节期间,京东云(中原)算力中心上线了DeepSeek-R1,成为河南省第一个提供DeepSeek服务的城市级算力中心。

DeepSeek是计算效能和推理精度接近和赶超ChatGPT的国产大模型。受限于DeepSeek公司的算力不足等原因,客户使用过程中经常出现服务器繁忙和无法使用等问题,同时考虑数据保护需要,政府和企业使用更需要私有化和本地化部署。

据介绍,为了更好地为金融、企业、政府等客户提供数据不出域的私有化模型推理服务,在京东云(中原)算力中心已经上线的业界领先的vGPU AI算力平台的基础上,实现本地化部署DeepSeek,使用户不会受主站流量限制,实现客户数据私有化不出域,满足企业级场景使用。

目前,京东云已正式全面上线 DeepSeek-R1、DeepSeek-V3以及所有蒸馏小参数模型(DeepSeek-R1-Distill)模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。

据了解,京东云(中原)算力中心位于河南省鹤壁市城乡一体化示范区,是京东私有云在中原地区的唯一运营中心,也是河南省算力基础设施发展规划“一核四极多点”总体布局打造的豫北区域算力增长极,辐射服务冀南等邻近省份区域。京东云(中原)算力中心拥有先进的数据中心机房和高性能的服务器集群,算力中心可根据需求的动态变化,实施弹性伸缩策略,实现资源的自动扩容和缩减。目前已经有京东言犀大模型、DeepSeek大模型以及上海、深圳、鹤壁等地企业用户的AI应用在算力中心高效运行。算力中心的建设获得了广泛关注,已累计接待省内外政府机构及企事业单位近500余人次的考察交流。

记者 成燕 安欣欣 文/图

分享到: 编辑:刘潇潇 统筹:陈静

相关新闻