UNPKG

@lobehub/chat

Version:

Lobe Chat - an open-source, high-performance chatbot framework that supports speech synthesis, multimodal, and extensible Function Call plugin system. Supports one-click free deployment of your private ChatGPT/LLM web application.

67 lines (43 loc) 3.24 kB
--- title: LobeChat 中使用 GitHub Models description: 学习如何在 LobeChat 中配置和使用 GitHub API Key,以便开始对话和交互。 tags: - LobeChat - GitHub - GitHub Models - API密钥 - Web UI --- # 在 LobeChat 中使用 GitHub Models <Image cover src={'https://github.com/user-attachments/assets/3050839a-cb16-485d-8bae-1bc2f9ade632'} /> [GitHub Models](https://github.com/marketplace/models) GitHub 最近推出的一项新功能,旨在为开发者提供一个免费的平台来访问和实验多种 AI 模型。GitHub Models 提供了一个互动沙盒环境,用户可以在此测试不同的模型参数和提示语,观察模型的响应。该平台支持多种先进的语言模型,包括 OpenAI GPT-4o、Meta Llama 3.1 Mistral Large 2 等,覆盖了从大规模语言模型到特定任务模型的广泛应用。 本文将指导你如何在 LobeChat 中使用 GitHub Models。 ## GitHub Models 速率限制 当前 Playground 和免费 API 的使用受到每分钟请求数、每日请求数、每个请求的令牌数以及并发请求数的限制。若达到速率限制,则需等待限制重置后方可继续发出请求。不同模型(低、高及嵌入模型)的速率限制有所不同。 模型类型信息请参阅 GitHub Marketplace。 <Image alt={'GitHub Models 速率限制'} inStep src={'https://github.com/user-attachments/assets/21c52e2a-b2f8-4de8-a5d4-cf3444608db7'} /> <Callout type="note"> 这些限制可能随时更改,具体信息请参考 [GitHub 官方文档](https://docs.github.com/en/github-models/prototyping-with-ai-models#rate-limits)。 </Callout> --- ## GitHub Models 配置指南 <Steps> ### 步骤一:获得 GitHub 的访问令牌 - 登录 GitHub 并打开 [访问令牌](https://github.com/settings/tokens) 页面 - 创建并设置一个新的访问令牌 <Image alt={'创建访问令牌'} inStep src={'https://github.com/user-attachments/assets/8570db14-dac6-4279-ab71-04a072c15490'} /> - 在返回的结果中复制并保存生成的令牌 <Image alt={'保存访问令牌'} inStep src={'https://github.com/user-attachments/assets/3c1a492d-a3d4-4570-9e74-785c2942ca41'} /> <Callout type={"warning"}> - GitHub Models 测试期间,要使用 GitHub Models,用户需要申请加入[等待名单(waitlist)](https://github.com/marketplace/models/waitlist/join) 通过后才能获得访问权限。 - 请安全地存储访问令牌,因为它只会出现一次。如果您意外丢失它,您将需要创建一个新令牌。 </Callout> ### 步骤二:在 LobeChat 中配置 GitHub Models - 访问 LobeChat 的`设置`界面 - 在`语言模型`下找到 `GitHub` 的设置项 <Image alt={'填入访问令牌'} inStep src={'https://github.com/user-attachments/assets/a00f06cc-da7c-41e8-a4d5-d4b675a22673'} /> - 填入获得的访问令牌 - 为你的 AI 助手选择一个 GitHub 的模型即可开始对话 <Image alt={'选择 GitHub 模型并开始对话'} inStep src={'https://github.com/user-attachments/assets/aead3c6c-891e-47c3-9f34-bdc33875e0c2'} /> </Steps> 至此你已经可以在 LobeChat 中使用 GitHub 提供的模型进行对话了。