专栏名称: OSC开源社区
OSChina 开源中国 官方微信账号
目录
相关文章推荐
OSC开源社区  ·  深度实测Manus,我依然认为这就是AI ... ·  2 天前  
OSC开源社区  ·  三句话让老板直接给我主动放假 ·  4 天前  
码农翻身  ·  字节的Trae不像一个IDE,它更像一个人 ·  3 天前  
51好读  ›  专栏  ›  OSC开源社区

Gitee AI携手无问芯穹:模型+算力,共创本土化AI社区新篇章

OSC开源社区  · 公众号  · 程序员  · 2024-12-20 16:16

正文

近日,Gitee AI 正式与无问芯穹携手,已通过 Infini-AI 异构云平台·大模型服务平台(GenStudio)在 Gitee AI 上架三款可调用的 LLM 模型,分别是 Qwen2.5-14B-Instruct Qwen2.5-32B-Instruct Yi-1.5-34B-Chat ,为 Gitee AI 用户提供了更加丰富的模型选择。

对于 AI 开发者来说,无问芯穹在 Gitee AI 上架的模型资源包可以实现一键 API 调用,大大降低了模型使用门槛。并且资源包内的模型内置推理优化加速服务,按调用量灵活计费,让 AI 应用开发更省时省力。未来,无问芯穹还将为 Gitee AI 提供更多市面上的主流模型,模型将陆续在 Gitee AI 的 Serverless API 服务板块上架。

目前,您可通过https://ai.gitee.com/serverless-api/packages/1917直接访问调用这三款模型。

共辟全新合作模式,模型+算力实现合作共赢

Gitee AI 是开源中国于 2023 年推出的针对 AI 应用场景的大模型服务平台,提供开源模型、数据集和应用落地场景,提供地域化的服务,Serverless API 服务是 Gitee AI 业务板块的核心。而无问芯穹大模型服务平台则专注于生成式大模型的应用落地,为应用开发者提供高性能、易用、安全可靠的大模型服务。它覆盖了从大模型开发到服务化部署的全流程,致力于成为模型微调、芯片评测和技术生态兼容的领先平台。

双方基于各自在平台以及技术方面的优势,共同开辟了一种全新的服务模式: 无问芯穹 Infini-AI 异构云平台·大模型服务平台(GenStudio)既为 Gitee AI 提供开源模型,又提供算力资源 。无问芯穹为 Gitee AI 的 Serverless API 板块提供大模型服务平台的模型 API 接口,Gitee AI 将其整合为「无问芯穹-全模型资源包」,并封装提供给用户。这种合作模式确保了用户在 Gitee AI 上能够无缝接入无问芯穹的高性能模型和算力服务,同时也为 Gitee AI 提供了灵活的部署选项。

本次合作可谓是一次强强联手,无问芯穹的模型资源包拥有丰富的模型资源,提供多种来源、参数规模和类型的大模型,方便 Gitee AI 用户快速选择,满足其需求;用户可一键调用丰富的大模型,无需部署;并且内置推理优化能力,快速适配主流及国产芯片,优化训练和推理场景,为用户提供更加流畅和高效的服务体验。

Gitee AI 作为一站式大模型服务平台,满足开发者在模型体验、推理、训练、部署到应用的全方位需求。随着无问芯穹的模型资源包在 Gitee AI 的上架, 开发者们现在可以无缝体验基于无问芯穹底层的算力及模型优化的能力 ,并且在 Gitee AI 上就能完成所有操作,无需在多个平台间频繁切换,从而加速业务开发的全过程,让开发工作更加流畅。Gitee AI 希望希望未来持续与无问芯穹携手,为开发者们带来更多普惠价值。

共同构建开源开放的本土 AI 社区

无问芯穹与 Gitee AI 的合作,是技术与平台的完美结合,通过双方的共同努力,我们期待看到开源模型生态的发展更加繁荣,让更多国内 AI 开发者能够实现低门槛调用主流开源模型,实现高效推理,带来更优质的模型服务体验。

未来,我们希望与 Gitee AI 共同构建一个更加开放、协作、创新的本土AI社区,让开源模型生态成为推动人工智能技术发展的重要力量。

关于无问芯穹

无问芯穹大模型服务平台(GenStudio)内置于无问芯穹 Infini-AI 异构云平台,现已上架包括 Embedding&Rerank Qwen2.5-7B/14B/32B/72B QwQ-32B-Preview CogVideoX-2B Llama-3.3-70B-Instruct GLM4 9B Stable Diffusion 在内的多种大语言模型、文生图及文生视频模型。







请到「今天看啥」查看全文