使用手冊

AI 設定

「AI 設定」(/ai)管理 ai 節點與知識庫使用的 LLM provider。金鑰加密存放,只在伺服器解密;瀏覽器永遠拿不到。

新增 provider

  1. 範圍scope:本單位或全域;全域需系統管理員)。
  2. 名稱name),選 種類kind):OpenAI 相容(OpenAI / Azure gateway / Ollama / vLLM)、Anthropic ClaudeGoogle GeminiMock(測試/展示)。選種類後 Base URL 與模型會帶入預設值。
  3. Base URLbaseUrl,自架或 gateway 時改)、模型model)、Embedding 模型embedModel,知識庫索引用)。
  4. API 金鑰apiKey);需要額外 header 的 gateway 填 Headersheaders,每行 Name: value)。
  5. 設為預設isDefault);按 儲存POST /ai/providers)。

測試連線、修改、刪除

測試連線
列上的 測試POST /ai/providers/{id}/test)發一個最小請求,顯示延遲與模型回覆;失敗顯示 provider 的錯誤碼。
修改
編輯後 儲存POST /ai/providers/{id});金鑰欄留空表示不變,勾 清除金鑰clearKey)才會移除。
設為預設
POST /ai/providers/{id}/default
刪除
POST /ai/providers/{id}/delete;使用中的 ai 節點會退回下一順位。

優先順序與用量

ai 節點解析 provider 的順序:節點指定的供應商 → 單位預設 → 全域預設 → 環境變數 LLM_* → mock。頁面下方的用量表顯示每個 provider 的請求數與 token 數(輸入/輸出),按月。

接上 HiZex 共用 AI core 時,LLM 路由改由該服務提供;服務不通時 provider 退回本機設定,不會當機。