专栏名称: IT时报
做报纸,也懂互联网,这里是《IT时报》(IT Times)微信版。作为上海一份IT类周报的新媒体产品,这里汇聚了关注全球IT业的魔都资深IT记者。我们追求原创独家新锐,以及读视听多种表达方式。ps. 使用IT产品有问题?留言与编辑互动。
目录
相关文章推荐
江南晚报  ·  客运版S2线,即将开通! ·  昨天  
新闻晨报  ·  频繁失误被陈凯歌怒批,他发长文致歉 ·  昨天  
新华社  ·  干净又省钱!最全冬装清洗攻略来了→ ·  3 天前  
51好读  ›  专栏  ›  IT时报

全国产化!在算力超市打造DeepSeek专属空间

IT时报  · 公众号  ·  · 2025-02-21 11:40

正文

“满血”“蒸馏”任选

作者/ IT时报记者 孙永会

编辑/  钱立富  孙妍

2月上旬,中国电信天翼云自主研发的“息壤”一体化智算平台完成了国产算力与DeepSeek-R1/V3系列大模型的适配优化,成为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台。

仅仅半个月,诸多信息表明,这场AI技术与通信行业的融合带来了巨大影响。


《IT时报》记者了解到,从DeepSeek-R1蒸馏版到满血版,天翼云均已支持,包含从1.5B轻量化版本到7B、32B再到671B不等的参数量,满足用户从复杂决策到高并发交互的全场景需求,用户无须复杂配置,通过API接口即可轻松调用,快速集成到各类应用场景。

此外,除了在云平台上直接体验国产算力支持的DeepSeek服务外,企业或个人用户也可登录上海电信公共算力服务门户—算力超市,直接租用国产智算单卡,在容器环境内基于不同基础框架进行DeepSeek大模型部署、调试,打造自己专属的DeepSeek空间。

全栈国产化适配

覆盖多场景需求

“整个行业都非常振奋。近期DeepSeek爆火,各界对于相关产品的关注度有较大提升,很多企业及个人用户前来咨询,天翼云官网与算力超市门户访问量都大幅度提升。”中国电信上海天翼云能力运营中心总经理陆奕奕如是说。


如何将自己的文档、应用与大模型结合实现个性化智能问答,以不同形式进行呈现?如何用好DeepSeek快速实现企业智能化升级,基于大模型构建可满足企业实际生产需要的智能体?在快速推进智能化升级的同时,如何保障数据安全与网络安全?这些成为近期个人和企业用户的关切点。

就使用场景和功能而言,天翼云方面表示,用户可将DeepSeek的问题解答能力和其他语音模型相组合,打造类似华为“小艺”、百度“小度”这样的个性化语音助手;企业也可通过调用DeepSeek结合不同应用与数据,实现自动化文档处理,进行信息提取、分类和知识库构建,提高企业信息检索能力。目前天翼云已有多种产品支持部署体验,覆盖网页问答、云端部署、模型镜像、开发微调等在内的各类应用场景,也为高度关注数据安全的企业提供含云、网、安、智、算在内的综合解决方案。


“是采用API模式还是网页可视化模式,由用户自己的需求决定。”陆奕奕介绍道,网页可视化模式是一种较简单、门槛较低的使用方式,在网页或App上直接进行问答即可。如果要构建其他应用系统或进行对外服务,需要通过API调用DeepSeek。目前,上海电信算力超市DeepSeek专区已支持提供稳定的网页问答。

支持本地或云上部署

实现安全与成本双赢

DeepSeek分为满血版和蒸馏版,满血版是与DeepSeek官网性能一致的V3和R1的全量参数模型,蒸馏版则是将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。受限于算力,不少平台选择部署蒸馏版,但体验效果也大打折扣。


天翼云提供“全家福”,从DeepSeek-R1满血版(671B参数)至轻量化蒸馏模型,统统都有。


那么,本地部署和云上部署在优势方面存在哪些差异呢?《IT时报》记者现场了解到,对于有个性化应用开发需求的用户,本地部署和云上部署两种模式各有所长,适合于不同的场景。

相较而言,云上部署主要有以下优势: 一方面,云上部署短期成本更低,无须考虑机房、服务器、网络等基础设施建设与维护,多样算力资源按服务方式提供,大幅降低一次性投资成本,支持灵活调整算力资源配置;另一方面,云上部署模型即开即用,降低用户技术门槛,让AI变得“接地气”,用户仅需简单几步即可部署,轻松构建智能体。


本地自行搭建基础设施部署大模型,可以让部署者对数据和系统有完全的控制权,适用于对数据安全、数据隐私和控制权有较高要求的企业,但在基础设施及相关安全配套方面的一次性投资成本非常高昂。中国电信亦可为这类用户定制化提供属地私有化部署方案,满足“数据不出域”要求。


“在天翼云上部署DeepSeek,对安全问题其实是一种很好的解决方案。中国电信作为通信运营商,依托强大的网络底座,提供弹性算网,可为政企用户实现部署在不同地域的大模型、应用、办公环境的大带宽专网,保障数据传输的安全性。”天翼云方面表示。

算力超市让AI触手可及

加速国产生态发展

上海区域的用户如果想更好地本地化部署DeepSeek,则建议登录上海电信的公共算力服务门户——算力超市。

据了解,上海电信在国内运营商中先行推出公共算力服务平台——算力超市,面对上海丰富的应用场景以及旺盛的算力需求,其不仅可以让用户一站式使用多种形态的算力服务,按需选择最具性价比的算力资费,而且有更多的AI场景最佳实践镜像提供,让更多的用户可以一站式部署自己的AI大模型和智能体,通过算力普惠和AI普惠,让“AI触手可及”。


在受众方面,算力超市为企业与个人提供服务。具体来看,算力超市企业版提供的主子账号体系可满足企业、团队算力使用需要,个人版产品为广大模型爱好者提供了超高性价比、不同规格、按需计费的轻量化容器级智算服务,平台提供基础教学助力个人炼丹者轻松入门。


“对个人用户来说,这是一个很好的体验与实验的平台。从底层算力到AI框架、模型均支持国产化,‘炼丹师’们可以在平台上进行模型训练和微调,便捷体验国产算力。”陆奕奕告诉《IT时报》记者,该平台提供入门教学,帮助新手用户迅速成长;对于经验丰富的研发人员,平台也能提供丰富的功能、各类模型镜像来助力“炼丹师”实现需求。


此外,个人用户在算力超市可以体验和使用到不同规格、高性价比的智算服务。目前算力超市上推出了可供个人用户免费体验的智算卡服务。在体验版里,用户甚至最多能连续10小时使用高达165TFLOPS的算力服务,只需在“上海电信”微信公众号发送“算力”或前往https://gpushop.sh.189.cn/ 的算力超市官网订购即可使用。


我们拥有长三角首个单池万卡液冷国产算力集群,可以为用户提供全链条的国产AI服务,助力国产算力和国产AI大模型深度匹配,从而为国产AI生态的加速发展奠定坚实底座。 ”就未来的发展信心,陆奕奕如是强调。

排版/ 季嘉颖

图片/ 费锋 IT时报

来源/《IT时报》公众号vittimes

E N D







请到「今天看啥」查看全文