Appearance
AI大模型集成功能安装
我们在此介绍如何使用Liii STEM内置的大模型集成功能。此功能为Liii STEM专属。
安装
支持的模型
目前支持的模型有:
- DeepSeek V3 (硅基流动,DeepSeek API)
- DeepSeek R1 (硅基流动,DeepSeek API)
- Qwen-2.5 72B (DeepSeek API)
- Qwen-2.5 7B (DeepSeek API)
Pandoc: 仅针对macOS和Linux
同时,对于macOS
和Linux
用户,在使用前需要安装pandoc
zsh
# macOS
brew install pandoc
或者
bash
# Ubuntu
sudo apt-get install pandoc
安装完pandoc后,您需要在Liii STEM中更新LLM插件,如下图所示
使用 Liii STEM 的大模型插件还需要您手动输入API Key。我们目前支持硅基流动与DeepSeek的API,获取API的教程在如何获取DeepSeek API和如何获取硅基流动API。 各API价格如下,用户需自行购买。
模型名称 | 上下文长度 | 最大输出长度 | 输入价格(百万 tokens) | 输出价格(百万 tokens) | 主要能力与特点 | 备注 |
---|---|---|---|---|---|---|
DeepSeek-V3 | 64K | 8K | 0.1元(缓存命中) | 2元 | 高性能通用对话、代码生成、逻辑推理、多语言处理,性价比高。 | 缓存未命中时输入价格为1元。 |
DeepSeek-R1 | 64K | 8K | 1元(缓存命中) | 16元 | 数学、代码、自然语言推理能力强,支持模型蒸馏,MIT授权。 | 缓存未命中时输入价格为4元。 |
Qwen-2.5 72B | 1M | 8K | 0.0036元/千Token | 4.13元 | 720亿参数,支持长文本处理,免费用于月活低于1亿的商业应用。 | 提供多种量化版本(如AWQ、GPTQ)。 硅基流动提供 |
Qwen-2.5 7B | 1M | 8K | 免费 | 免费 | 7B参数,适合轻量级任务,支持多卡推理和量化部署。 | 提供GGUF、AWQ、GPTQ等量化版本,适合资源有限的环境。 硅基流动提供 |
硅基流动API获取
使用 Liii STEM 的大模型插件需要您手动输入API Key。我们目前支持硅基流动与Deepseek的API,以下是获取硅基流动API的教程。
第一步在硅基流动官网申请账号
硅基流动官网:https://cloud.siliconflow.cn/i/h8qNv0VJ
在使用之前,你需要先在硅基流动官网申请账号,并获取对应的API Key,点击复制密钥。如下图所示:
第二步打开LiiiSTEM配置密钥
在Liii STEM里打开帮助
-> 插件
-> LLM
, 如下图所示:
然后双击打开llm_zh.tm
这个文档
将您复制的API Key粘贴到如下图位置,然后点击保存。
保存后点击菜单里的Literate
-> Build buffer
, 之后便可以享受我们的大模型插件了!
DeepSeek API获取
使用 Liii STEM 的大模型插件需要您手动输入API Key。我们目前支持硅基流动与DeepSeek的API,以下是获取 DeepSeek API的教程。
第一步在DeepSeek官网申请账号
使用DeepSeek V3
和 R1
之前,你需要先在DeepSeek的官网申请账号,并获取对应的API Key。如下图所示。
第二步打开LiiiSTEM配置密钥
在Liii STEM里打开帮助
-> 插件
-> LLM
, 如下图所示
然后打开llm_zh.tm
这个文档
将您复制的API Key粘贴到如下图位置,然后点击保存。
保存后点击菜单里的Literate
-> Build buffer
, 之后便可以享受我们的大模型插件了!
代理配置
在某些网络环境下,可能需要通过代理服务器来访问模型API服务。Liii STEM的LLM插件支持为不同的API提供商配置独立的代理。
代理配置方法
代理配置可以通过打开帮助
-> 插件
-> LLM
,查看详细的帮助文档,直接在文档中配置。
也可以在$HOME/.liii_llm_key.json
文件中进行。每个API提供商可以单独配置代理设置。
基本格式
代理配置使用以下格式:
json
"<提供商域名>": {
"api-key": "<您的API密钥>",
"proxy": {
"http": "<HTTP代理地址>",
"https": "<HTTPS代理地址>"
}
}
OpenAI代理配置示例
以下是为OpenAI配置代理的示例:
json
"openai.com": {
"api-key":"Fill in your secret key here",
"proxy":{
"http":"http://127.0.0.1:7890",
"https":"http://127.0.0.1:7890"
}
}
不使用代理
如果不需要使用代理,有两种方式处理:
- 将"proxy"设置为空对象:
json
"proxy":{}
- 完全删除"proxy"字段
生效方式
如果你在帮助文档中修改配置后,需要:
- 点击菜单项
Literate→Build buffer
- 重启Liii STEM使配置生效
如果你是直接修改$HOME/.liii_llm_key.json
文件:
- 保存文件
- 重启Liii STEM使配置生效
代理配置常见问题及解决方法
在配置和使用代理时,如果不能正常使用,可能是遇到了以下常见问题:
1. 连接超时
问题表现:配置代理后,请求API时出现长时间等待。
解决方法:
- 检查代理工具是否正常运行
- 尝试更换线路
- 确认代理地址和端口是否正确
- 临时关闭防火墙或安全软件,检查是否为其拦截
2. 使用时报错
问题表现:配置代理后使用大模型时报错
解决方法:
- 如果你配置的代理监听的协议是HTTPS,如
https://127.0.0.1:7890
,确保代理服务器支持HTTPS请求。 - 绝大多数本地代理工具(如 Clash, V2RayN, Shadowsocks 客户端等)监听端口时,期望接收的是 HTTP 或 SOCKS 协议的连接,而不是 HTTPS 连接。
- 检查配置文件的JSON格式是否有错误,包括逗号、引号等
配置代理是解决网络访问限制的重要手段,尤其是对于OpenAI等服务。如果以上方法无法解决您的问题,可以联系我们获取更详细的帮助。