专栏名称: GitHubStore
分享有意思的开源项目
目录
相关文章推荐
东方网  ·  DeepSeek被当成“老中医”?看病只要几 ... ·  3 天前  
东方网  ·  最新!上海一区3人被查 ·  3 天前  
51好读  ›  专栏  ›  GitHubStore

Chat Nio : 下一代 AI 一站式解决方案

GitHubStore  · 公众号  ·  · 2024-03-21 08:25

正文

项目简介

  • AI 聊天对话功能

    • [停止支持] 🍎 AI 项目生成器功能 , 支持生成过程查看, 支持 TAR / ZIP 格式下载 (原理为预设实现, 可能不稳定)

    • [停止支持] 📂 批量文章生成功能 , 支持生成进度条, 一键生成 DOCX 文档的 TAR / ZIP 格式下载 (需要生成数量高于上游该模型的最高并发数)

    • [已弃用] 🥪 AI 卡片功能 (已废弃), AI 的问题和答案以卡片形式展现, 可直接以图片 url 形式嵌入。 (原理为动态生成 SVG)

    • 支持 Vision 模型, 同时支持 直接上传图片 输入图片直链或 Base64 图片 功能 (如 GPT-4 Vision Preview, Gemini Pro Vision 等模型)

    • 支持 DALL-E 模型绘图

    • 支持 Midjourney / Niji 模型的 Imagine / Upscale / Variant / Reroll 操作

  1. 丰富格式兼容

  2. 丰富 Markdown 支持和主题切换 , 支持明暗模式, 代码高亮, Mermaid, LaTeX 公式, 表格, 进度条, Virtual Message 等

  3. 支持消息菜单 , 支持重新回答, 复制消息, 使用消息, 编辑消息, 删除消息, 保存为文件等操作

  4. 支持多端适配 , 支持 PWA 应用, 支持桌面端 (桌面端基于 Tauri)

  5. 对话记忆功能 , 云端同步, 原生支持站点直链分享对话, 支持使用分享对话, 分享对话保存为图片, 支持分享管理 (支持查看, 删除分享等操作)

  6. 原生支持全模型文件解析 , 支持 pdf, docx, pptx, xlsx, 图片等格式解析 (详情参考项目 chatnio-blob-service)

  7. 支持全模型 DuckDuckGo 联网搜索功能 (详情参考项目 duckduckgo-api, 需自行搭建并在系统设置中联网设置中设置, 感谢作者 @binjie09, 中转 API 模型前加 web- 前缀即可开启联网搜索)

  8. 大文本全屏编辑支持 , 支持 纯文本编辑 , 编辑预览模式 , 纯预览模式 三种模式切换

  9. 模型市场功能 , 支持模型搜索, 支持顺序拖拽, 包含模型名称, 模型描述, 模型 Tags, 模型头像, 自动绑定模型的价格设置, 自动绑定订阅配额 (包含在订阅的模型将标有 plus 标签)

  10. 支持预设功能 , 支持 自定义预设 云端同步 功能, 支持预设克隆, 预设头像设置, 预设简介设置

  11. 支持站点公告 支持站点公告和通知

  12. 支持偏好设置 , i18n 多语言支持, 自定义最大携带会话数, 最大回复 tokens 数, 模型参数自定义, 重置设置等

  13. 国际化支持 , 支持多语言切换

  14. 附加功能 (可通过后台系统设置设置附加功能的用户分组权限来开启和关闭)

  • 🔔 丰富用户管理和计费体系

    1. 丰富且美观的仪表盘 , 包含本日和当月入账信息, 订阅人数, 模型使用统计折线图, 饼状图分析, 收入统计, 用户类型统计, 模型使用统计, 请求次数和模型错误数量统计图表等

    2. 支持用户管理 , 用户列表 , 用户详情 , 管理操作 ( 修改密码 , 修改邮箱 , 封禁 / 解封用户 , 设为管理员 , 点数变更 , 点数设置 , 订阅管理 , 订阅等级设置 , 释放订阅用量 等操作)

    3. 支持礼品码和兑换码管理 支持管理操作, 支持批量生成和保存为文件

    4. 价格设定 , 支持模型价格设定 ( 次数计费 , Token 弹性计费 , 不计费 等类型), 支持同步上游 Chat Nio 站点的价格设定 (可选是否覆盖本站已有模型价格规则), 未设定价格模型检测 (如果非管理员将自动检测并停止使用模型进而防止金额损失)

    5. 订阅设定 , 区别于弹性计费, 订阅是一种固定按次的价格的计费方式, 平台用户可以通过套餐以固定价格订阅, 支持是否开启订阅 (默认关闭), 支持订阅分层, 支持订阅配额设置, 支持订阅配额涵盖模型设置, 图标设置, 从其他套餐的配额导入等功能。

    6. 自定义模型市场 , 编辑前台模型市场模型名称, 介绍, Tags, 头像 (内置模型图片选择和自定义模型图片设置), 是否加入模型模型等信息

    7. 系统设置 , 自定义网站名称, 网站 Logo, 文档链接, 是否暂停注册, 用户初始点数等设置, 自定义购买链接 (卡密发卡地址), 联系信息, 页脚信息等

    8. 支持 SMTP 发件 , 支持是否启用邮件后缀白名单, 支持自定义邮件后缀白名单

    9. 支持模型缓存 , 即同一个入参下, 如果之前已请求过, 将直接返回缓存结果 (击中缓存将不计费), 减少请求次数。可自定义一种情况的最大缓存结果数 (默认为 1), 自定义可缓存的模型 (默认为空), 自定义缓存时间 (默认为 1 小时), 支持一键设置 全部模型不缓存 , 免费模型缓存 , 所有模型缓存 等操作

  • ⚡ 渠道管理体系

    1. Chat Nio 自写渠道分配算法 (不依赖 http 上下文), 抽象 Adapter 兼容层架构, 低耦合, 高可扩展性

    2. 支持多渠道管理 , 支持 优先级调配 , 权重负载 , 渠道状态管理 (优先级是在模型请求过程中, 渠道的优先级分配, 优先级越高, 越先被使用, 如果报错, 将自动 fall 至优先级更低的渠道;权重是指在一个优先级下, 渠道的权重, 权重越高, 被使用的概率越大, 同一个优先级的多个渠道最多只能有一个被使用, 权重越高, 被击中的概率越大)

    3. 兼容多种格式 , 支持多模型兼容层, 详情参见下方模型支持部分

    4. 支持自定义模型 , 可通过 添加模型 使用已知模型, 支持增加自定义模型, 支持一键填入模板模型 (指当前格式默认支持的模板模型, 如 OpenAI 格式的模板模型有 gpt-3.5-turbo-0613 等), 支持一键清空模型

    5. 支持渠道重试 , 支持渠道的 Retry 机制, 支持自定义重试次数, 重试次数超过后将自动 fall)

    6. 支持同渠道均衡负载 , 单个渠道内可配置多个密钥而非批量创建渠道 (多个密钥换行间隔), 以相同权重随机分配请求, Retry 机制也将和同渠道内的多密钥搭配使用, 随机抽取密钥进行重试。

    7. 支持渠道模型映射 , 将模型映射至本渠道已支持模型中, 格式为 目标模型 > 已有模型 , 加如前缀 ! 即可让已有模型不分配在本渠道的请求击中的涵盖模型中, 具体使用方法请参考程序内的渠道设置内的说明和提示。

    8. 支持用户分组 , 自定义勾选可使用此模型的用户分组 (如 匿名用户 , 普通用户 , 基础版订阅用户 , 标准版订阅用户 , 专业版订阅用户 等分组, 设置为 0 分组可用和设置为全部分组可用都是一样的效果)

    9. 内置上游隐藏 , 报错时自动隐藏渠道内设置的上游地址 (如 channel://2 /v1/chat/completions ), 同时支持隐藏秘钥 ( Gemini 说的就是你 不隐藏秘钥报错直接把秘钥甩出去 ), 以防止上游渠道在未设置秘钥或者上游错误信息暴露完整秘钥的情况下 (如逆向类型渠道) 被滥用, 同时在多个渠道同时为同一接入点的情况下, 也方便排查问题

  • ✨ 中转 API 服务

    • Chat Completions (/v1/chat/completions)

    • Image Generation (/v1/images)

    • Model List (/v1/models)

    • Dashboard Billing (/v1/billing)

    1. 以 OpenAI 通用格式兼容多种格式, 支持多模型兼容层, 这意味着你可以使用一种格式, 同时兼容多家 AI 模型

    2. https://api.openai.com 替换为 https://api.chatnio.net (示例), 填入控制台中的 API 设置 中的 API Key 即可使用, 支持重置 Key。

    3. 支持格式

  • 🎃 更多功能等待你的发现

  • 🔨 支持模型







    请到「今天看啥」查看全文