LLM（大型語言模型）

LLM 是經過大量文字資料訓練、能理解與生成自然語言的 AI 模型，是 AI Agent、聊天機器人等應用的核心引擎。

很多企業導入時的第一個誤解，是以為 LLM 本身就知道公司內部資訊——事實上 LLM 只具備訓練時累積的通用知識，就像剛到職的新人只懂產業常識、不懂公司內部流程與眉角，需要搭配 RAG 等機制才能回答與內部資料相關的問題，這是選型前必須先釐清的基本認知，否則會誤以為系統故障。市面上主流 LLM 包含 GPT、Claude、Gemini 等，選型時常被忽略的其實是價格差距：同一家廠商內部，經濟型與旗艦型模型的費用差距可達百倍以上，例如 OpenAI 經濟型每萬則對話約 2.4 美元，旗艦型則約 350 美元，選錯模型等級，換算成年度費用的差距可能高達新台幣百萬元以上，這筆錢往往比模型本身的效能提升更值得先關注。對於客服信件分類、常見問答這類任務，通常經濟型模型已經足夠應付；但涉及複雜推理、契約條款判讀或跨段落邏輯比對，才有必要選用旗艦型，並不是「模型越貴越保險」，選型應該對應任務難度而非預算多寡，隨意升級旗艦模型只會讓每月帳單無謂增加，卻不一定反映在使用者體驗上。