以「AI家教、AI助教、AI幫手、AI決策助手」四大角色服務為目標,結合臺灣主權語料、教育場域資料與雙軌算力架構,建構符合臺灣課綱、制度與親師生情境的可信賴教育型 AI 應用環境。
教育 AI 的關鍵不僅是模型推論能力,更在於模型是否理解臺灣課綱、教育制度、在地文化與親師生互動情境。本計畫以臺灣自主與教育場域專屬為核心,建構六項具體目標。
完成 GPU 運算伺服器、高速網路骨幹、儲存與基礎軟體堆疊之建置與調校,確保高併發、長時間運作下的穩定性與可擴充性。
建立本地教育型語言模型之選型、部署與服務化機制,系統性評估授權、效能、資源、資安與整合可行性。
以臺灣主權與教育雲 AI 訓練語料庫為基礎,微調支援主權用語判斷、資安風險辨識與個資敏感資訊檢核之小型模型。
依序推動教師教學、校長決策、家長支持與學生學習模型之語料建置、續訓、指令微調與驗證。
涵蓋文件匯入、切分、向量化、索引建置、檢索重排序、來源引用與追溯、資料庫與權限管理。
建立前端一致介接之 API 服務層,提供多模型路由、配額流量治理、身分鑑別與可觀測性、稽核能力。
以「建構高效能 AI 算力基礎環境」、「部署本地教育語言模型推論服務」、「建置 RAG 知識庫管理與檢索服務」及「整合並營運 AI 推論服務」為推動主軸,並以四大教育角色模型作為訓練與語料治理之核心應用場景。
硬體落地、叢集化管理、可觀測性與維運三大面向,作為模型推論、RAG 檢索、角色模型訓練與平臺 API 之共用運行環境。
「模型可本地化、可服務化、可治理」為原則,完成選型評估、推論服務上線與安全護欄模型微調。
支援四大角色模型的知識來源分層、授權管理、版本控管與引用回溯,作為可擴充、可維運的檢索增強生成底座。
建置標準化 AI 推論服務介面與 API Gateway,依身分、情境、資料權限與風險等級進行模型路由與護欄檢核。
採「地端基礎算力+外部彈性算力」雙軌設計,依資料敏感度與任務性質分流,未去識別化之學生資料、親師溝通紀錄一律優先留在地端;公開或已去識別化語料、批次訓練則可採外部彈性算力。
共同技術底座、分層語料治理、角色化微調與 RAG 動態補強,依語料成熟度、授權風險與治理難度分階段推進,而非一次到位。
陪伴自主學習、理解在地文化,提供可追溯、適齡且具安全護欄的學習輔助。
協助課程設計、教案撰寫、差異化教學與評量設計。
支援親師溝通、家庭教育、學習支持與數位安全建議。
支援課程決策、行政法規判斷、校務治理與風險預警。
支援四大角色模型的知識來源分層、授權管理、版本控管與引用回溯,確保生成式 AI 回應皆能指向原始文件的特定切塊、頁碼或資料來源。
制定跨部門資料共享、敏感度分級、授權範圍、使用限制與兒少資料保護規則。
建立共同基礎語料、學生、教師、家長、校長與安全護欄語料之資料目錄與更新週期。
針對 PDF、Word、HTML、表格、簡報與掃描文件進行文字擷取與版面分析評估。
依課綱、法規、教案、行政決策等不同文件類型設計切塊策略,評估繁體中文向量化模型。
針對 Qdrant、Milvus、pgvector 等進行索引建置速度、檢索延遲與召回率評估。
建置版本管理、備份還原、多版本共存測試與過期封存機制。
正式上線高防禦性檢索 API,確保回應皆可追溯至原始資料來源。
整合雙軌算力、四大角色模型與 RAG 服務,建置標準化 AI 推論服務介面與 API Gateway,並將五大治理原則導入請求與回應生命週期。
統一請求/回應格式、全域錯誤碼、串流回傳、RAG 引用來源格式與跨服務追蹤識別碼。
依角色與應用場景建立模型類型、版本、知識庫範圍與權限之動態路由策略。
納入模型與知識庫索引版本管理、權限配置與使用量統計。
定期產生平臺使用量、模型效能、資料來源與風險事件之合規稽核報表。