local_model_optimization

本地模型優化流程。當需要建立或管理本地模型與雲端模型的驗證反饋系統時觸發，包括：MiniMax 驗證、品質比對、提示詞優化、本地化遷移。

本地模型優化流程

功能說明

建立 MiniMax 驗證 + 本地模型優化的閉環系統，透過持續比對和反饋學習，逐步提升本地模型品質，最終實現完全本地化。

演進階段

階段模式驗證方式本地化率
Phase 1混合模式每次驗證~50%
Phase 2本地優先抽樣驗證~80%
Phase 3完全本地異常觸發~95%

工作流程

第一步：請求分析

  • 分析任務類型（對話/推理/程式碼/寫作）
  • 根據 dispatch_rules 選擇模型

第二步：模型調度

任務類型模型驗證
簡單對話ollama:llama3無
複雜推理ollama:mistralMiniMax 驗證
程式碼ollama:codellamaMiniMax 驗證
創意寫作ollama:llama3無

第三步：驗證比對（Phase 1）

  • 本地模型產出結果
  • MiniMax 產出對照結果
  • 計算餘弦相似度
  • 相似度 < 0.8 時記錄差異並觸發優化

第四步：反饋學習

  • 記錄差異模式（語法、風格、邏輯）
  • 調整提示詞模板
  • 更新 dispatch_rules 權重

第五步：週期檢查

  • 每週檢查平均相似度
  • 平均 < 0.7 → 觸發全面優化
  • 連續 3 次失敗 → 切換模型
  • 新任務類型 → 添加規則

反饋記錄格式

{
  "timestamp": "2026-02-19T06:30:00",
  "task_type": "程式碼",
  "local_model": "codellama",
  "similarity": 0.85,
  "issues": ["語法錯誤", "風格不一致"],
  "optimization": "添加更多注釋提示"
}

錯誤處理

情境處理方式
本地模型回應逾時設定 30 秒超時，逾時後直接使用 MiniMax
MiniMax API 不可用跳過驗證，記錄待驗證標記
相似度持續低於 0.5該任務類型暫時回退至雲端模型
新增未知任務類型預設使用 llama3 + 全量驗證
反饋記錄寫入失敗輸出到 stderr，不阻斷主流程

使用範例

  • 「檢查本地模型這週的品質分數」
  • 「把程式碼任務的模型從 codellama 換成 deepseek-coder」
  • 「執行一次完整的本地模型 vs MiniMax 品質比對」

護欄

  • MiniMax API Key 使用環境變數管理
  • 反饋記錄不包含完整輸入輸出，僅保留摘要和分數
  • 自動優化不修改核心模型權重，僅調整提示詞
  • Phase 切換需人工確認，不自動跳級
  • 完全本地化後仍保留雲端驗證能力作為備用