第 6 课|大模型调用与平台集成

shfxxbz
44
2025-11-13

Ollama · OpenWebUI · vLLM · LM Studio · 外部API · LDAP接入

受众:集团内小学—初中—高中信息与人工智能教师
时长:30 分钟
主旨:掌握 OpenWebUI 与各类模型后端的整合使用,并理解学校环境下最适合的部署方式
内容包含:Ollama 基础使用、OpenWebUI 调用 Ollama、OpenWebUI 调用外部 OpenAI 风格 API、大模型后端对比、OpenWebUI LDAP 登录集成。


🎯 本课学习目标

  • 会使用 Ollama 的最基本命令(拉取模型 / 推理 / 管理模型)

  • 学会在 OpenWebUI 中调用 Ollama 作为后端

  • 学会用 OpenWebUI 调用任何 OpenAI 格式 API 的外部大模型(如 deepseek、openai、fastgpt、云端推理等)

  • 弄清楚 LM Studio / vLLM / Ollama 在学校环境中的优缺点

  • 掌握如何让 OpenWebUI 接入 LDAP(Active Directory),实现组织账号统一登录(适用于学校 AD 域)


🧩 01 Ollama 基础使用(老师必须会的 4 个命令)

Ollama 是目前学校环境最容易部署的大模型后端,命令简单、不依赖复杂环境。


✔️ 1. 拉取模型(首选轻量模型)

ollama pull llama3

其他常见模型:

ollama pull qwen2
ollama pull mistral

✔️ 2. 启动模型对话

ollama run llama3

退出:
Ctrl + C


✔️ 3. 查看本地已安装模型

ollama list

✔️ 4. 删除模型

ollama rm llama3

🖥️ 02 在 OpenWebUI 中调用 Ollama(最常用场景)

假设服务器部署方式与第五课一致:
Ollama 默认端口:11434
OpenWebUI 端口:3000


✔️ 第 1 步:打开 OpenWebUI 设置

进入:

OpenWebUI → Settings → Models → Providers

✔️ 第 2 步:添加 Ollama Provider

填入:

Provider Name: Ollama
API Base URL: http://服务器IP:11434

保存后刷新页面。


✔️ 第 3 步:测试是否成功

在模型选择列表中,会看到:

  • llama3

  • qwen2

  • mistral

如果能正常对话,代表 Ollama 已接入成功。


🌐 03 OpenWebUI 调用外部 OpenAI 接口(适用于 DeepSeek / OpenAI / FastAPI / RAG 服务)

OpenWebUI 不只能用本地模型,也能用 任何符合 OpenAI API 标准的模型

这包括:

  • OpenAI 官方(gpt‑4o、gpt‑4.1 等)

  • DeepSeek API

  • 阿里通义 Qwen API

  • 百度文心 API

  • 火山云深度模型

  • 本地 FastAPI 模型(自建接口)

  • FastGPT(OpenAI 格式 API)


✔️ 第 1 步:进入外部 API 配置界面

OpenWebUI → Settings → Models → Providers → Add Provider

✔️ 第 2 步:填写外部 API 信息

示例:DeepSeek API

Provider Name: DeepSeek
API Base URL: https://api.deepseek.com/v1
API Key: 你的API密钥

示例:OpenAI

https://api.openai.com/v1

示例:FastGPT(本地自建)

http://服务器IP:8000/v1

✔️ 第 3 步:选择模型名称

不同服务的 model 字段不同,例如:

  • gpt‑4o

  • deepseek-chat

  • qwen-max

  • fastgpt-chat

保存后刷新 OpenWebUI,在模型列表即可看到这些外部模型。


⚖️ 04 vLLM · LM Studio · Ollama 的优缺点对比(适合在学校怎么选)

项目

Ollama

LM Studio

vLLM

部署难度

⭐ 最简单

⭐⭐ 中等

⭐⭐⭐ 难(需要 GPU)

硬件需求

高(强力 GPU 才能跑)

适合学校场景

⭐⭐⭐⭐

⭐⭐⭐

⭐⭐(高校更适合)

WebUI 集成

很好

一般

需要额外配置

支持模型格式

GGUF

GGUF / ONNX

HuggingFace / Safetensors

并发能力

低~中

⭐⭐⭐⭐ 强

管理难度

最低

中等

是否适合教师运维

非常适合

一般

不适合


🏫 适用于中小学的结论

  • 小学 / 初中:首选 Ollama(轻量、好部署、好维护)

  • 高中:LM Studio 或 Ollama 都可

  • 拥有 GPU 的区级机房:可以选择 vLLM 构建高并发平台


🧩 05 OpenWebUI LDAP / AD 登录集成(学校最实用的统一登录方案)

如果学校部署了:

  • AD(Active Directory)

  • Synology Directory Server

  • FreeIPA

就可以使用 OpenWebUI 的 LDAP 登录功能


✔️ 第 1 步:进入管理后台

OpenWebUI → Admin Panel → Authentication

找到:

LDAP Settings

✔️ 第 2 步:填写 LDAP 参数(示例:学校 AD)

LDAP Host: ldap://192.168.10.5
LDAP Port: 389
Base DN: DC=school,DC=local
Bind DN: CN=ldap-admin,OU=IT,DC=school,DC=local
Bind Password: ***
Search Filter: (sAMAccountName=%s)

Synology Directory Server 示例:

LDAP Host: ldap://192.168.1.10
Base DN: dc=synology,dc=local
Bind DN: uid=ldapadmin,cn=users,dc=synology,dc=local
Bind Password: ***
Search Filter: (uid=%s)

✔️ 第 3 步:启用 LDAP 登录

勾选:

Enable LDAP Authentication

保存即可。

此后:

  • 教师可用学校域账号直接登录

  • 不再需要在 OpenWebUI 手动创建用户

  • 管理员只需在 AD 中禁用账号即可停止访问

非常适合中小学集团化管理。


📌 第 6 课课后任务

  1. 在 OpenWebUI 中成功连接一次 Ollama

  2. 配置一个外部 OpenAI API(如 DeepSeek)

  3. 总结 vLLM / LM Studio / Ollama 哪种方式最适合你学校

  4. 若条件允许,尝试配置 LDAP 登录

完成这些后,你已经具备一个 AI 平台管理员的核心技能。

动物装饰