主要观点总结
文章介绍了国内首家落地DeepSeek全栈国产化推理服务的运营商级云平台——中国电信天翼云。DeepSeek成为这段时间最火的国产AI力量,天翼云成功完成DeepSeek模型的深度适配优化,并提供了全栈国产化推理服务。除了可以在云平台上体验,用户还可以租用国产智算单卡,在容器环境内基于不同基础框架进行DeepSeek大模型部署。天翼云实现了技术链路的100%国产化,保障企业数据安全与业务合规,并提供多种版本的DeepSeek模型以满足不同场景需求。同时,上海电信的公共算力服务门户也提供了DeepSeek的本地化部署选项。
关键观点总结
关键观点1: DeepSeek成为最火的国产AI力量,天翼云完成深度适配优化并提供全栈国产化推理服务。
文章首先介绍了DeepSeek的成功引起全球关注,并成为中国力量的代表。天翼云作为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台,完成了模型的深度适配优化。
关键观点2: 天翼云实现了技术链路的100%国产化,保障企业数据安全与业务合规。
天翼云从硬件、推理引擎到模型服务都实现了国产化,确保全栈自主可控,以保障企业数据安全和业务合规。
关键观点3: 用户可以在云平台上直接体验国产算力支持的DeepSeek,也可以通过租用国产智算单卡进行模型部署和调试。
除了可以在云平台上直接体验DeepSeek,用户还可以选择通过租用国产智算单卡,在容器环境内进行DeepSeek大模型的部署和调试,打造自己的专属DeepSeek空间。
关键观点4: 天翼云提供了多种版本的DeepSeek模型以满足不同场景需求。
天翼云不仅提供了满血版的DeepSeek模型,还提供了蒸馏版以满足不同算力和场景需求。用户无需复杂配置,即可轻松调用并快速集成到各类应用场景中。
关键观点5: 上海电信的公共算力服务门户提供了DeepSeek的本地化部署选项。
上海区域的用户可以选择通过上海电信的公共算力服务门户进行DeepSeek的本地化部署。该门户提供了基于国产昇腾芯片的DeepSeek模型运行验证,用户可以根据需求进行模型的部署和调试。
正文
国内首家落地DeepSeek全栈国产化推理服务的运营商级云平台
蛇年开春,国产AI大模型DeepSeek成功抢了春节的“风头”,成为这段时间最火的“中国力量”。
“小而美”且开源的DeepSeek不仅让全球开始反思“大力出奇迹”的OpenAI路线,也为国产算力芯片和云服务商打开通往AGI(通用人工智能)的另一扇窗。
短短两周内,DeepSeek被广泛部署于各大云平台。2月6日中午,中国电信天翼云宣布,其自主研发的“息壤”智算平台率先完成国产算力与DeepSeek-R1/V3系列大模型的深度适配优化,成为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台。
“从国产算力芯片到国产云服务商,再到国产大模型,国产AI完成了生态上的百分百闭环。”天翼云相关人士表示。
除了可以在云平台上直接体验国产算力支持的DeepSeek,《IT时报》记者从中国电信上海公司(简称上海电信)了解到,企业或者个人用户也可以登录上海电信公共算力服务门户—算力超市,直接租用国产智算单卡,在容器环境内基于不同基础框架进行DeepSeek大模型部署、调试,打造自己专属的DeepSeek空间。
作为首家完成DeepSeek大模型国产化适配的运营商,天翼云“息壤”智算平台从昇腾硬件、推理引擎到模型服务,实现了技术链路的100%国产化,确保全栈自主可控,保障了企业数据安全与业务合规。
据了解,通过自研推理加速引擎,天翼云“息壤”智算平台实现了DeepSeek-R1系列模型的极致性能释放,实测下来,昇腾国产算力显示推理性能与主流高端GPU持平。
这意味着,通过国产大模型算法创新和国产算力芯片加速,中国用户终于可以放心在选择时兼顾高效与合规。
据天翼云透露,在“息壤”智算平台上部署的DeepSeek-R1模型,基于昇腾实例,实测了一个涉及高等数学与物理学的复杂综合问题,该问题不仅需要模型具备强大的数学推理能力,还要求其能够理解并应用物理学中的概念,结果令人满意。
“满血”还是“蒸馏”?
任你选
最近几天,随着DeepSeek在多国应用市场登顶,官网时不时显示“服务器繁忙”,于是各家部署DeepSeek的平台便成为人们体验DeepSeek的主流方案。
DeepSeek模型有满血版和蒸馏版之分,所谓满血版是与DeepSeek官网性能一致的V3和R1的全量参数模型。而蒸馏版能将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。受限于算力,不少平台选择部署蒸馏版,但体验效果也大打折扣。
天翼云选择了“全家福”。从DeepSeek-R1满血版(671B参数)至轻量化蒸馏模型,天翼云统统都有,覆盖了用户从复杂决策到高并发交互的全场景需求。用户无需复杂配置,通过API接口即可轻松调用,快速集成到各类应用场景。
即日起,用户登录天翼云官网,进入“息壤”智算平台专题页,即可申请免费API密钥与云镜像试用。
上海区域的用户,如果想更好地本地化部署DeepSeek,则建议登录上海电信的公共算力服务门户—算力超市。
据了解,产品研发团队现已基于国产昇腾芯片完成DeepSeek-R1模型运行验证。用户可基于公共算力超市提供的主打产品—智算单卡/多卡服务,独享智算资源,在容器环境内,基于不同基础框架自行进行模型部署、调试DeepSeek,快速开发专属智能应用。
比如一些科研机构或者创意公司,可以直接购卡进行DeepSeek推理部署,将已经调优好的大模型做成镜像,在单卡上跑测,随需购买,按时付费。
同时,团队也正在积极探索DeepSeek共享服务模式,以进一步降低公共算力的使用门槛。
排版/ 季嘉颖
图片/ 天翼云 DeepSeek
来源/《IT时报》公众号vittimes