开始整活了！基于Llama 3.1 开发的开源教师LlamaTutor

项目简介

Llama 3.1刚刚开源，这边网友又整出新活了！

介绍一位开源教师——LlamaTutor，主要基于Llama 3.1 开发。

它可以解答你的任何科目的问题，覆盖从小学到研究生的知识，问一些体育问题也是可以的！

比如你可以问它“如何才能在初中学好三角形？”

它会回复你关于三角形的种类、三角形的常见题型（计算角度、计算面积）等等初中生需要掌握的主要知识点。

它还可以实时搜索并总结最新的资源，并用Llama返回有逻辑性的答案。

作者说该教师刚上岗24小时，就完成了6400次搜索。

技术栈

• 来自 Meta 的 Llama 3.1 70B LLM

• Together AI 用于 LLM 推理

• 带有 Tailwind 的 Next.js 应用程序路由器

• 用于搜索 API 的 Serper

• 螺旋锥可观察性

• 适合网站分析

克隆与运行

1. 分叉或克隆存储库

2. 在 Together AI 上为 LLM 创建帐户

3. 在 SERP API 或使用 Azure（Bing 搜索 API）创建帐户

4. 在 Helicone 创建帐户以实现可观察性

5. 创建 .env （使用 .example.env 作为参考）并替换 API 密钥

6. 运行 npm install 和 npm run dev 以安装依赖项并在本地运行

未来的任务

• 添加共享和复制按钮，人们可以在生成 convo 后单击

• 在聊天页面末尾添加潜在的后续问题+新聊天

• 将页面分成两页并添加回页脚

• 将我的所有图标移动到它们自己的打字稿文件中（transform.tools）

• 添加更详细的登陆页面，其中包含带有 GitHub 链接的精彩部分

• 在移动设备上添加漂亮的汉堡菜单

• 尝试 Vercel 的生成式 UI 功能

• 整体添加更好的下拉菜单

关于llama 3.1

Meta Llama 3.1：迄今为止功能最强大的开放AI模型，支持多语言和长文本处理，开放源代码，可与顶级闭源AI模型相媲美】
- Llama 3.1 405B是迄今公开可用的最大和最先进的基础模型，具有无与伦比的灵活性、可控性和最先进的性能，可与最好的专有模型媲美。
- Llama 3.1 405B可支持复杂应用，如长格式文本摘要、多语言对话系统和编程助手。它采用标准的decoder-only transformer架构，通过迭代后训练不断优化。
- Llama 3.1 405B在通用知识、可控性、数学、工具使用和多语言翻译等多个方面达到最先进水平。它可点燃新应用和建模范式的创新火花。
- Llama 3.1系列还包括升级的8B和70B小型模型，支持8种语言，上下文长度达到128k，支持先进的用例。
- Meta还发布了完整的开源Llama系统参考实现，包括Llama Guard 3安全模型、Prompt Guard提示过滤等新组件，以负责任地扩展生态。
- 开发者可以免费下载Llama 3.1模型，进行自定义改造、数据集微调等，无需向Meta共享数据，可以在任何环境中部署。
- Llama生态系统合作伙伴可以提供Llama 3.1 405B的各种推理、微调、评估、持续预训练等服务，帮助开发者充分利用这个强大的模型。