平台工程

#@kevinsisi/ai-core — 共用 AI Runtime 模組

Provider-aware 的多 provider AI runtime 套件,供旗下多個服務(mind-diary、Design Bridge、auto-spec-test…)共用:KeyPool、retry、streaming、tools、agent-runtime。

TypeScript (strict)tsup (ESM/CJS)Vitestbetter-sqlite3GitHub Packages

// 遇到什麼問題

##問題

多個 AI 服務各自實作 key 輪替、retry、provider 切換,邏輯重複且行為不一致;rate limit 處理分散難以維護。

// 如何解決

##解法

抽出共用 primitives 發布為套件:KeyPool 多 key 輪替與冷卻(可插拔 storage adapter)、provider-aware retry classifier(quota/rate-limit/network 分類退避)、ProviderRouter(OpenAI / OpenRouter / Gemini / OpenCode adapter)、AgentRuntime 與 step-orchestration。原則:不可靜默 fallback,跨 provider 切換必須由顯式 routing policy 開啟。

// 我負責什麼

##我的角色

設計套件 API 與 provider adapter 架構,撰寫測試,負責發布與版本維護

// result

##成果

5 個以上自家服務共用同一套 key 調度與 retry 邏輯,重複實作歸零;跨 provider 切換一律由顯式 routing policy 控制,不靜默 fallback。