Skip to content

AI大模型集成功能安装

我们在此介绍如何使用Liii STEM内置的大模型集成功能。此功能为Liii STEM专属。

安装

支持的模型

目前支持的模型有:

Pandoc: 仅针对macOS和Linux

同时,对于macOSLinux用户,在使用前需要安装pandoc

zsh
# macOS
brew install pandoc

或者

bash
# Ubuntu
sudo apt-get install pandoc

安装完pandoc后,您需要在Liii STEM中更新LLM插件,如下图所示 update_plugin

使用 Liii STEM 的大模型插件还需要您手动输入API Key。我们目前支持硅基流动与DeepSeek的API,获取API的教程在如何获取DeepSeek API如何获取硅基流动API。 各API价格如下,用户需自行购买。

模型名称上下文长度最大输出长度输入价格(百万 tokens)输出价格(百万 tokens)主要能力与特点备注
DeepSeek-V364K8K0.1元(缓存命中)2元高性能通用对话、代码生成、逻辑推理、多语言处理,性价比高。缓存未命中时输入价格为1元。
DeepSeek-R164K8K1元(缓存命中)16元数学、代码、自然语言推理能力强,支持模型蒸馏,MIT授权。缓存未命中时输入价格为4元。
Qwen-2.5 72B1M8K0.0036元/千Token4.13元720亿参数,支持长文本处理,免费用于月活低于1亿的商业应用。提供多种量化版本(如AWQ、GPTQ)。 硅基流动提供
Qwen-2.5 7B1M8K免费免费7B参数,适合轻量级任务,支持多卡推理和量化部署。提供GGUF、AWQ、GPTQ等量化版本,适合资源有限的环境。 硅基流动提供

硅基流动API获取

使用 Liii STEM 的大模型插件需要您手动输入API Key。我们目前支持硅基流动与Deepseek的API,以下是获取硅基流动API的教程。

第一步在硅基流动官网申请账号

硅基流动官网:https://cloud.siliconflow.cn/i/h8qNv0VJ

在使用之前,你需要先在硅基流动官网申请账号,并获取对应的API Key,点击复制密钥。如下图所示:

api_key

第二步打开LiiiSTEM配置密钥

在Liii STEM里打开帮助 -> 插件 -> LLM, 如下图所示:

help_llm

然后双击打开llm_zh.tm这个文档

llm_zh

将您复制的API Key粘贴到如下图位置,然后点击保存。

insert_api_key

保存后点击菜单里的Literate -> Build buffer, 之后便可以享受我们的大模型插件了!

DeepSeek API获取

使用 Liii STEM 的大模型插件需要您手动输入API Key。我们目前支持硅基流动与DeepSeek的API,以下是获取 DeepSeek API的教程。

第一步在DeepSeek官网申请账号

使用DeepSeek V3R1之前,你需要先在DeepSeek的官网申请账号,并获取对应的API Key。如下图所示。

deepseek_api

第二步打开LiiiSTEM配置密钥

在Liii STEM里打开帮助 -> 插件 -> LLM, 如下图所示 help_llm

然后打开llm_zh.tm这个文档

llm_zh

将您复制的API Key粘贴到如下图位置,然后点击保存。

deepseek_api_key

保存后点击菜单里的Literate -> Build buffer, 之后便可以享受我们的大模型插件了!

代理配置

在某些网络环境下,可能需要通过代理服务器来访问模型API服务。Liii STEM的LLM插件支持为不同的API提供商配置独立的代理。

代理配置方法

代理配置可以通过打开帮助 -> 插件 -> LLM,查看详细的帮助文档,直接在文档中配置。
也可以在$HOME/.liii_llm_key.json文件中进行。每个API提供商可以单独配置代理设置。

基本格式

代理配置使用以下格式:

json
"<提供商域名>": {
  "api-key": "<您的API密钥>",
  "proxy": {
    "http": "<HTTP代理地址>",
    "https": "<HTTPS代理地址>"
  }
}

OpenAI代理配置示例

以下是为OpenAI配置代理的示例:

json
"openai.com": {
  "api-key":"Fill in your secret key here",
  "proxy":{
    "http":"http://127.0.0.1:7890",
    "https":"http://127.0.0.1:7890"
  }
}

不使用代理

如果不需要使用代理,有两种方式处理:

  1. 将"proxy"设置为空对象:
json
"proxy":{}
  1. 完全删除"proxy"字段

生效方式

如果你在帮助文档中修改配置后,需要:

  1. 点击菜单项Literate→Build buffer
  2. 重启Liii STEM使配置生效

如果你是直接修改$HOME/.liii_llm_key.json文件:

  1. 保存文件
  2. 重启Liii STEM使配置生效




代理配置常见问题及解决方法

在配置和使用代理时,如果不能正常使用,可能是遇到了以下常见问题:

1. 连接超时

问题表现:配置代理后,请求API时出现长时间等待。

解决方法

  • 检查代理工具是否正常运行
  • 尝试更换线路
  • 确认代理地址和端口是否正确
  • 临时关闭防火墙或安全软件,检查是否为其拦截

2. 使用时报错

问题表现:配置代理后使用大模型时报错

解决方法

  • 如果你配置的代理监听的协议是HTTPS,如https://127.0.0.1:7890,确保代理服务器支持HTTPS请求。
  • 绝大多数本地代理工具(如 Clash, V2RayN, Shadowsocks 客户端等)监听端口时,期望接收的是 HTTP 或 SOCKS 协议的连接,而不是 HTTPS 连接。
  • 检查配置文件的JSON格式是否有错误,包括逗号、引号等

配置代理是解决网络访问限制的重要手段,尤其是对于OpenAI等服务。如果以上方法无法解决您的问题,可以联系我们获取更详细的帮助。