F-01
私有模型部署與訓練
On-prem LLM + fine-tune
開源模型跑在企業伺服器，可按內部資料訓練或微調，對話與數據不出內網。
← 返回首頁
CASE FILE / HM-AI-002
企業自建 AI 系統
開源模型跑在公司自己的伺服器，可按內部資料訓練或微調；文件建成 RAG 知識庫，系統接成 MCP 工具——數據全程不出內網。
01 / PROBLEM問題
員工想用 AI，IT 不敢放行
公有雲 AI 有數據出境與保密顧慮；內部資料散落在文件、手冊與各套系統，問一條問題要翻幾個地方，答案還未必可信。
02 / SOLUTION解決方案
模型在內網，答案有出處
以開源模型在公司伺服器搭建私有 LLM，需要時按企業資料訓練或微調；內部文件建立索引，提問時先檢索再回答，答案附出處；內部系統以 MCP 接成工具，可直接查詢。
03 / FEATURES機能
問在內網，答有根據
F-01 私有模型部署與訓練
F-02 RAG 知識庫
F-03 自訂 MCP 工具
F-04 權限與審計
年假有多少天？
按《員工手冊》第 3.2 節，年假為 12 天，可按年資最多補 3 天。
員工手冊 §3.2
人事政策 2026
庫存差異如何處理？
差異超出 2% 需開差異單，由倉務主管核實後在 ERP 確認結案。
庫存政策 v4
倉務流程手冊 §7
Q3 銷售報告在哪裡？
最近一期在「報表庫 › 銷售 › 2026-Q3」，或向 BI 群組索取副本。
報表庫索引
BI 群組公告
內部文件 → 建立索引→提問 → 檢索 + MCP → 有出處的回答
F-02
RAG 知識庫
文件索引與檢索
手冊、政策與內部文件建立索引，答案附出處，可回查原文。
F-03
自訂 MCP 工具
接通內部系統
把 ERP、工單、CRM 等內部系統接成工具，AI 可查詢、可操作。
F-04
權限與審計
角色權限與紀錄
按角色控制可見範圍，對話與工具呼叫留有紀錄，可追蹤審計。
04 / OUTCOME成果
質性成果
- O-01內部問題直接問，答案附出處
員工向 AI 提問即取得有根據的答案，不必逐個系統找。
- O-02數據全程留在內網
模型、索引與對話都在公司伺服器，保密顧慮解除。
- O-03內部系統變成 AI 工具
經 MCP 接線，查庫存、查工單由 AI 代勞。