【專利四】模組化 GenAI 系統設計：為什麼不是「功能越多越好」？一個 PM 的反直覺專利

企業導入 LLM 最常犯的錯：把「強大」等於「好用」

剛開始做企業 GenAI 產品的時候，我也曾經迷信「模型越大越好、功能越多越強」。

直到我看到實際的部署成本。

一個部署在企業內網的 LLM 服務，如果每個場景都用全功能模型，GPU 成本、推論延遲、維護複雜度……全都往上衝。

更關鍵的是：大部分的業務場景，根本用不到全部功能。

客服機器人需要的是自然語言理解 + 對話管理 + 知識庫查詢。財務分析助理需要的是資料理解 + 報表生成。個人化推薦系統需要的是用戶畫像 + 偏好比對。

這個洞察促成了我的專利 M671449《客製化生成式人工智慧系統》——一個真正模組化的 GenAI 架構。

這套系統的基礎模組包括：

進階可選模組：

根據不同業務場景，你可以只部署需要的模組組合，大幅降低硬體需求與系統複雜度。

作為 GenAI PO，這套架構給我最大的啟發是：

AI 產品的架構設計，決定了它的邊際成本曲線。

全功能部署的邊際成本幾乎是固定的（不管用到幾個功能，成本都在那裡）。模組化部署讓你可以根據用量動態配置資源，業務增長時水平擴展，試驗新場景時成本極低。

這其實是非常傳統的軟體工程思維——關注點分離（Separation of Concerns）——只是現在要應用到 AI 模組上。

從這個專利中，我整理出三個對 GenAI Product Manager 有用的架構原則：

1. 按需組合，而非一次到位 不要試圖在第一版就實現所有功能。先找到核心模組，驗證後再疊加。

2. 每個模組應該可以獨立替換 LLM 技術演進非常快。如果你的文本生成模組被「焊死」在系統裡，換模型時的成本會讓你崩潰。

3. 知識庫模組是競爭壁壘 其他模組容易被競品複製，但你的知識庫——客戶資料、業務規則、機構記憶——才是真正難以複製的護城河。

M671449 客製化生成式人工智慧系統｜公告日：2025/06/11｜唯一發明人：劉岦崱