使用手冊
AI 設定
「AI 設定」(/ai)管理 ai 節點與知識庫使用的 LLM provider。金鑰加密存放,只在伺服器解密;瀏覽器永遠拿不到。
新增 provider
Herald
儀表板訊息審核劇本與 Pattern知識庫受眾與群組報表單位設定AI 設定記憶稽核紀錄
AI 設定單位 ▾
Providers
| 範圍 | 名稱 | 模型 | 預設 |
|---|---|---|---|
| 單位 | 校內 gateway OpenAI 相容 | gpt-4o-mini | ✓ |
| 全域 | Claude | claude-… |
新增
單位 · 校內 gateway · OpenAI 相容
https://llm.example/v1 · gpt-4o-mini · text-embedding-3-small
••••••••
儲存 測試連線
- 選 範圍(
scope:本單位或全域;全域需系統管理員)。 - 填 名稱(
name),選 種類(kind):OpenAI 相容(OpenAI / Azure gateway / Ollama / vLLM)、Anthropic Claude、Google Gemini、Mock(測試/展示)。選種類後 Base URL 與模型會帶入預設值。 - 填 Base URL(
baseUrl,自架或 gateway 時改)、模型(model)、Embedding 模型(embedModel,知識庫索引用)。 - 貼 API 金鑰(
apiKey);需要額外 header 的 gateway 填 Headers(headers,每行Name: value)。 - 勾 設為預設(
isDefault);按 儲存(POST /ai/providers)。
測試連線、修改、刪除
- 測試連線
- 列上的 測試(
POST /ai/providers/{id}/test)發一個最小請求,顯示延遲與模型回覆;失敗顯示 provider 的錯誤碼。 - 修改
- 編輯後 儲存(
POST /ai/providers/{id});金鑰欄留空表示不變,勾 清除金鑰(clearKey)才會移除。 - 設為預設
POST /ai/providers/{id}/default。- 刪除
POST /ai/providers/{id}/delete;使用中的 ai 節點會退回下一順位。
優先順序與用量
ai 節點解析 provider 的順序:節點指定的供應商 → 單位預設 → 全域預設 → 環境變數 LLM_* → mock。頁面下方的用量表顯示每個 provider 的請求數與 token 數(輸入/輸出),按月。
接上 HiZex 共用 AI core 時,LLM 路由改由該服務提供;服務不通時 provider 退回本機設定,不會當機。