首頁 » 顧問觀點


企業有了 ChatGPT，為什麼還需要自己的 AI？

凌越【數位轉型、智慧製造、ESG、IPO】資深顧問導師 張曉甄 Jenny Chang
最近與企業討論 AI 應用時，經常遇到一個很實際的問題：
「現在的生成式 AI 已經這麼好用了，公司為什麼還需要另外建自己的 AI？」
這個問題其實非常合理。
很多企業主管與使用者已經體驗過 ChatGPT 等生成式 AI：可以查資料、整理內容、寫報告、做分析，使用門檻低，有些服務甚至免費。
Demo 企業 AI 時，也常會出現一種期待：既然平常使用 AI 不需要特別準備什麼，它就能回答很多問題，那企業導入 AI，不也是打開來就可以用了嗎？
但當 AI 真正開始走進企業，問題很快就會變得不一樣。
因為企業真正想問的，往往不是網路上的知識，而是：「我們公司的規定是什麼？」「這項產品的技術規格怎麼定義？」「這個作業應該依照哪一份 SOP？」甚至是：「這個使用者，到底有沒有權限看到這些資料？」
這時候，企業需要處理的就不只是 AI 模型本身。

AI什麼都懂，但它不會憑空知道「你公司的事」

通用生成式 AI 的優勢，是能理解大量公開知識並進行自然語言互動。
但一家企業真正重要的知識，很多並不存在公開網路上。例如公司內部管理制度、SOP與作業規範、ISO文件、KM知識文件、產品與技術手冊、部門內部作業資訊。
這些資料可能散落在不同文件、資料夾或知識管理系統裡，也可能只有特定部門與人員知道去哪裡找。
因此，企業想建立自己的 AI 應用，第一個問題往往不是「模型夠不夠聰明？」，而是「AI要從哪裡取得我們認可的企業知識？」
透過 RAG（Retrieval-Augmented Generation，檢索增強生成）建立企業知識庫，就是其中一種做法。
目前凌越 AI 平台已具備 RAG 資料庫建立能力。在實際客戶 Demo 與應用模擬中，也曾將企業 KM、技術手冊、ISO文件及管理制度等內容導入，讓使用者透過自然語言進行查詢。
這時候 AI 回答的，就不只是「它原本知道什麼」，而是開始根據企業指定的知識來源提供答案。

對企業而言，「回答得出來」還不夠

這也是企業 AI 與個人使用 AI 很不一樣的地方。
個人使用時，我們通常只在乎：答案好不好？快不快？
但企業規模愈大，組織與資料愈複雜，就會多出另一組問題：誰可以問？他可以問哪些資料？不同部門能不能看到彼此的內容？專案資料是否需要隔離？敏感資訊能不能被AI帶出來？
假設企業把人資、財務、業務、研發、技術文件全部放進同一個 AI 環境，卻沒有處理權限問題，即使 AI 回答得再準確，也不代表這是一套適合企業使用的系統。
所以企業 AI 真正要管理的，不只是「AI」，還包括人、資料與權限之間的關係。

企業規模愈大，AI的權限問題愈不能事後再補

這也是我們在設計企業 AI 平台時，為什麼除了 LLM 文字對答、RAG知識庫、圖片分析及資料檢索等 AI 應用能力之外，同時納入帳號管理、資料庫管理、部門與專案資料分級、使用權限、敏感字詞管控等機制。
目的不是讓 AI 變得更複雜，而是讓企業可以決定：什麼人，在什麼範圍內，可以使用什麼資料。
這件事情對組織單純的小型環境可能不明顯，但當企業逐漸進入多部門、多專案，甚至不同營運單位共同使用資訊系統時，就會變得非常重要。
因為企業真正要的，不只是「AI知道答案。」還必須是「AI在正確的權限下，把正確的答案提供給正確的人。」
這才開始接近企業應用。

AI除了「公司內部」，有時也需要知道「外面發生什麼」

企業使用 AI 的另一個情境，是外部資訊。例如法規是否更新？產業標準有沒有改變？競爭者最近有哪些公開資訊？市場與新聞發生什麼變化？
因此凌越 AI 平台亦可延伸公開資訊檢索應用，協助針對法規、標準、產業資訊或新聞等內容進行搜尋與彙整，並保留來源供使用者進一步查證。
這與企業內部 RAG 知識庫其實是兩種不同資料來源：企業內部知識，回答「我們自己的事情」；外部檢索，協助理解「外面的事情」。
而企業真正的決策，很多時候正需要同時理解這兩邊。

資料放在哪裡，也開始變成企業 AI 的問題

當 AI 開始碰到企業內部資料，另一個很常被問到的問題就是：「我的資料會不會跑出去？」
這也是企業 AI 無法只從「模型好不好用」來評估的原因。
企業需要依照自己的資料敏感程度、IT環境與管理政策，決定哪些應用適合上雲、哪些資料需要保留在企業可控環境。
因此凌越 AI 平台在架構上採取雲地混合、資安可控的方向，讓企業能依資料敏感程度、IT 環境與應用需求，規劃適合的部署方式。
當應用需要串接雲端 AI 模型時，仍可能依模型與實際使用量產生 Token 費用；因此企業在規劃 AI 應用時，也需要一併考量資料安全、使用情境與後續營運成本。
因為真正進入企業後，AI不能只在 Demo 時覺得「很好用」，還要考慮大量使用之後，企業能不能長期使用。

企業自己的AI，不是要取代ChatGPT

談到這裡，很容易變成另一個誤會：所以企業是不是不要用 ChatGPT 這類工具？
並不是。
通用生成式 AI 在公開資訊查詢、內容整理、創意發想與個人生產力上，具有非常高的使用價值。
企業 AI 解決的是另一個問題。
當企業希望 AI 開始理解自己的ERP資料、自己的制度、自己的技術文件、自己的SOP，以及自己的權限與作業規則，就需要建立另一層企業資訊環境。
所以真正的差別，不一定是哪一個 AI「比較聰明」。而是：它知道什麼？它可以讀什麼？誰可以使用？資料如何被保護？答案從哪裡來？

從「使用AI」到「讓AI理解企業」

過去企業談數位轉型，經常是在思考：如何把流程與資料放進系統。
AI進入企業之後，問題又往前走了一步：如何讓系統裡累積的資料，以及企業多年建立的知識，真正被AI理解與使用？
這也是企業 AI 真正有趣的地方。
它不是另外增加一個很會聊天的工具，而是逐步把企業自己的資料、知識、權限與流程，帶進新的數位工作方式。
因此企業真正需要思考的，或許已經不是：「我們要不要用AI？」而是：「企業哪些資料與知識，已經準備好讓AI使用？」
當企業開始回答這個問題，AI才真正從個人生產力工具，進入企業數位轉型的下一個階段。