教育部 新一代 AI 學習系統研發計畫 子計畫四 / 計畫書摘要網站
國立臺灣師範大學・子計畫四

打造可地端部署、可持續治理的教育專屬 AI 基礎設施

以「AI家教、AI助教、AI幫手、AI決策助手」四大角色服務為目標,結合臺灣主權語料、教育場域資料與雙軌算力架構,建構符合臺灣課綱、制度與親師生情境的可信賴教育型 AI 應用環境。

4
教育角色模型:學生・教師・家長・校長
2
雙軌算力:地端基礎算力+外部彈性算力
4
工作主軸:算力・模型・知識庫・推論服務
RAG
可追溯引用的知識檢索底座
01 — 緣起與目標

從「依賴第三方 API」到「可控、可信賴的教育型 AI」

教育 AI 的關鍵不僅是模型推論能力,更在於模型是否理解臺灣課綱、教育制度、在地文化與親師生互動情境。本計畫以臺灣自主與教育場域專屬為核心,建構六項具體目標。

GOAL 01

高效能 AI 算力基礎環境

完成 GPU 運算伺服器、高速網路骨幹、儲存與基礎軟體堆疊之建置與調校,確保高併發、長時間運作下的穩定性與可擴充性。

GOAL 02

部署本地教育語言模型推論服務

建立本地教育型語言模型之選型、部署與服務化機制,系統性評估授權、效能、資源、資安與整合可行性。

GOAL 03

訓練功能性安全護欄模型

以臺灣主權與教育雲 AI 訓練語料庫為基礎,微調支援主權用語判斷、資安風險辨識與個資敏感資訊檢核之小型模型。

GOAL 04

建置四大教育角色模型

依序推動教師教學、校長決策、家長支持與學生學習模型之語料建置、續訓、指令微調與驗證。

GOAL 05

RAG 知識庫管理與檢索服務

涵蓋文件匯入、切分、向量化、索引建置、檢索重排序、來源引用與追溯、資料庫與權限管理。

GOAL 06

整合並營運 AI 推論服務

建立前端一致介接之 API 服務層,提供多模型路由、配額流量治理、身分鑑別與可觀測性、稽核能力。

02 — 工作內容規劃

四大工作主軸

以「建構高效能 AI 算力基礎環境」、「部署本地教育語言模型推論服務」、「建置 RAG 知識庫管理與檢索服務」及「整合並營運 AI 推論服務」為推動主軸,並以四大教育角色模型作為訓練與語料治理之核心應用場景。

INFRA

建構高效能 AI 算力基礎環境

硬體落地、叢集化管理、可觀測性與維運三大面向,作為模型推論、RAG 檢索、角色模型訓練與平臺 API 之共用運行環境。

  • 地端 GPU、共享儲存、高速網路與機房周邊規格設計
  • 基礎軟體環境(驅動、加速套件、容器化)建置
  • 監控告警、權限控管與資源配額機制
MODELS

部署本地教育語言模型推論服務

「模型可本地化、可服務化、可治理」為原則,完成選型評估、推論服務上線與安全護欄模型微調。

  • 本地教育型 LLM 選型與授權評估
  • 推論效能與硬體相容性測試(vLLM、Ollama 等)
  • 功能性小型語言模型與資料護欄訓練
RAG

建置 RAG 知識庫管理與檢索服務

支援四大角色模型的知識來源分層、授權管理、版本控管與引用回溯,作為可擴充、可維運的檢索增強生成底座。

  • 資料範疇與敏感度分級治理
  • 切塊策略、向量化與向量資料庫效能評測
  • 索引版本管理與可驗證的引用回溯
GATEWAY

整合並營運 AI 推論服務

建置標準化 AI 推論服務介面與 API Gateway,依身分、情境、資料權限與風險等級進行模型路由與護欄檢核。

  • 統一 API 協議、串流回傳與錯誤碼規範
  • 四大模型服務動態路由策略
  • 安全倫理護欄與稽核治理報表
03 — 算力架構

雙軌算力:地端基礎+外部彈性

採「地端基礎算力+外部彈性算力」雙軌設計,依資料敏感度與任務性質分流,未去識別化之學生資料、親師溝通紀錄一律優先留在地端;公開或已去識別化語料、批次訓練則可採外部彈性算力。

算力一・地端基礎算力

LOCAL · 常態承載
承載任務日常推論・RAG 檢索・API Gateway・敏感資料處理
運算節點地端 GPU 伺服器(NVLink 對接)
儲存架構NVMe+HDD 分層儲存
網路架構100GbE 直連+25GbE 管理網
治理重點教育資料可控・資安治理・服務穩定

算力二・外部彈性算力

NCHC · 尖峰擴充
承載任務大型模型續訓・指令微調・批次向量化・壓力測試
運算節點國網中心晶創 25/晶創 26 等 H100/H200 服務
資料處理去識別化、加密封裝、傳輸檢核流程
回收機制模型權重與評測結果回地端部署與稽核
治理重點兒少資料不暴露於不必要之運算環境
04 — 角色化訓練

四大教育角色模型

共同技術底座、分層語料治理、角色化微調與 RAG 動態補強,依語料成熟度、授權風險與治理難度分階段推進,而非一次到位。

STUDENT

學生學習模型

陪伴自主學習、理解在地文化,提供可追溯、適齡且具安全護欄的學習輔助。

TEACHER

教師教學模型

協助課程設計、教案撰寫、差異化教學與評量設計。

PARENT

家長支持模型

支援親師溝通、家庭教育、學習支持與數位安全建議。

PRINCIPAL

校長決策模型

支援課程決策、行政法規判斷、校務治理與風險預警。

05 — 知識檢索底座

RAG 知識庫管理與檢索服務

支援四大角色模型的知識來源分層、授權管理、版本控管與引用回溯,確保生成式 AI 回應皆能指向原始文件的特定切塊、頁碼或資料來源。

01

資料範疇與治理規劃

制定跨部門資料共享、敏感度分級、授權範圍、使用限制與兒少資料保護規則。

02

四大模型資料目錄

建立共同基礎語料、學生、教師、家長、校長與安全護欄語料之資料目錄與更新週期。

03

文本前處理與向量化評估

針對 PDF、Word、HTML、表格、簡報與掃描文件進行文字擷取與版面分析評估。

04

最佳化切塊與向量模型選型

依課綱、法規、教案、行政決策等不同文件類型設計切塊策略,評估繁體中文向量化模型。

05

向量資料庫效能評測

針對 Qdrant、Milvus、pgvector 等進行索引建置速度、檢索延遲與召回率評估。

06

索引版本與增量更新

建置版本管理、備份還原、多版本共存測試與過期封存機制。

07

引用回溯與可驗證回應

正式上線高防禦性檢索 API,確保回應皆可追溯至原始資料來源。

06 — 服務治理

AI 推論服務整合與安全護欄

整合雙軌算力、四大角色模型與 RAG 服務,建置標準化 AI 推論服務介面與 API Gateway,並將五大治理原則導入請求與回應生命週期。

主
臺灣主權用語檢核
資
個人資料與敏感資訊偵測
安
資訊安全風險辨識
兒
兒少資料保護
倫
教育倫理原則
標準化推論服務介面

統一請求/回應格式、全域錯誤碼、串流回傳、RAG 引用來源格式與跨服務追蹤識別碼。

四大模型服務路由

依角色與應用場景建立模型類型、版本、知識庫範圍與權限之動態路由策略。

視覺化後台管理

納入模型與知識庫索引版本管理、權限配置與使用量統計。

系統可觀測性

定期產生平臺使用量、模型效能、資料來源與風險事件之合規稽核報表。