【AI 名詞懶人包】由淺入深帶你了解 LLMs、Token、Prompt、Tool、MCP、Agent、Skills 各種人工智能概念

【內容摘要】

這篇文章解析了 AI 生態的核心架構：

核心大腦 (LLM)：LLM 是基於機率預測的「大腦」，透過參數在數學空間中搜索路徑，以 Token（最小運算單位）處理資訊。
記憶與檢索 (Context & RAG)：Context Window 是有限的短期記憶，超出上限會遺忘資訊；RAG 技術則如同「外掛硬碟」，擴充知識範圍。
指令與溝通 (Prompt)：分為設定底層邏輯的 System Prompt 與執行具體任務的 User Prompt。
工具與互聯 (Tool & MCP)：透過 Tool 讓 LLM 具備環境感知與操作能力，MCP 則統一了工具間的連接規範。
進化形態 (Agent & Skills)：Agent 具備推理與自主執行能力，如 Invest101 Copilot 能自動化產出專業報告。透過 Skills 模組與 思維鏈 (CoT)，AI 已從單純對話演進為能解決複雜問題的智能體。

在過去幾年，我們見證了人工智能從單純的聊天機械人(Chatbot) 到具備自主執行能力的智能體 (AI Agent) 的跨越。對於初學者而言，AI 術語日新月異，LLMs、Token、Prompt、Tool、MCP、Agent、Agent Skill 等新名詞毎天都出現在各類媒體之上。這些科技名詞對普羅大眾可能相當默生，但如果我們將其類比為人類的運作方式，一切都會變得清晰易懂。

本文將 AI 的運作拆解為四個關鍵部分：大腦（LLM）、記憶（Context）、對話（Prompt）與手腳（Tool/Agent），由淺入深地剖析 AI 的精密結構。

Table of Contents

LLM（大型語言模型）

如果說 AI 是一個數位生命，那麼大型語言模型 (Large Language Model) 就是「大腦」。大型語言模型並非像傳統計算機依賴硬性的邏輯規則（If-Then），而是透過閱讀海量的文本、數據，學會了「預測下一個字」的能力。

LLM 本質上是一個極其複雜的「機率預測機器」，LLM 的強大來自於其數以千億計的「參數」。這些參數就像是大腦神經元之間的連接強度，是在訓練過程中透過閱讀海量文本（如原始碼、學術期刊、文學作品）磨礪出來的。

當你問 LLM 問題時，它是在高維度的數學空間中進行路徑搜索。這也解釋了為什麼 LLM 的輸出具有隨機性（Temperature），因為它每次都在「預測下一條機率最高的路徑」。

Token

在 LLM 閱讀人類的文本或理解用戶問題時，它並不直接閱讀字母或文字的。

它會先將字母或文字拆解成 Token (一組數字)， Token 是構建 LLM 知識體系的「積木」，是 LLM 運算的「計費單位」與「訊息密度」。

Token 是文字的最小處理單位。一個英文單字可能是一個 Token，而一個複雜的漢字可能是兩個 Token。

不同的分詞器（Tokenizer）會影響 LLM 的處理效率。如果一個模型能用更少的 Token 表示更複雜的意思，它的處理效率就越高。

為什麼長文本摘要很貴？因為處理每個 Token 都需要消耗 GPU 算力。理解 Token 就能理解為何「精簡的提示詞」有時比「冗長的廢話」更有效。

而 LLM 輸出答案時，本質上是在預測下一個最有機率出現的 Token。這也是為什麼有時候 LLM 會產生「幻覺（Hallucination）」，因為它只是在追求邏輯上的流暢，而非絕對的事實對錯。

Context（上下文）

為什麼 LLM 有時候記得你上一秒說過的話，有時候卻突然斷片？這涉及到了 Context「記憶」；LLM 的記憶並非永久儲存在腦中，而是放在對話的「暫存區」。

1. Context Window（上下文窗口）

每個模型都有其 Token 上限（如 128K 或 1M Context），當 Context 超標時，系統通常會採用「滑動窗口」或「向量數據庫檢索（RAG）」來丟棄舊資訊。這就是為什麼 AI 可能會記得 10 分鐘前的話，卻忘記了 1 小時前的核心需求。

你可以將 Context Window 想像成 LLM 的「工作記憶區」或「短期記憶桌子」。

限制：這張桌子的大小是有限的。一旦對話過程產生的 Token 數量超過了窗口上限，舊的資訊就會被擠出桌子。
現象：這就是為什麼 LLM 會忘記對話初期的需求。

Context 不僅包含對話歷史，還包含你提供給它的參考資料。當你餵給 LLM 一份 100 頁的 PDF 並要求摘要時，這份 PDF 就佔據了它大量的 Context 空間。

2. RAG (檢索增強生成)：外掛式硬碟

為了突破 Context 的限制，業界發展了 RAG 技術。這讓 LLM 能在回答前，先去「翻書」（檢索資料庫），只把相關的內容塞進 Context 裡。這保證了 LLM 即使面對百萬字的文件，也能精準回答。

Prompt（提示詞）

有了大腦，我們需要一種方式與它溝通。Prompt 就是我們傳遞給大腦的指令。在專業的 AI 應用中，Prompt 的結構至關重要。

要提升 LLM 的表現，不能只給指令(User Prompt)，同時要制定規則(System Prompt )。優秀的 AI 產品，其 System Prompt 往往極其複雜。它會規定 LLM 不准說髒話、不准討論政治、或者必須以特定的格式輸出數據。在 User Prompt 中加入 2-3 個正確的輸入輸出範例，能讓 LLM 的準確率從 60% 飆升至 95% 以上。

初學者容易混淆 User Prompt 與 System Prompt 的分別，為了讓大家一眼看懂，我們用以下表格來作一個對比：

System Prompt vs. User Prompt

特性	System Prompt (系統提示詞)	User Prompt (用戶提示詞)
定義	設定 LLM 的底層邏輯、人設與行為準則。	用戶具體提出的問題或任務。
功能	決定 AI「是誰」以及「該如何說話」。	決定 AI「要做什麼」。
穩定性	通常隱藏在背景，由開發者預設，不輕易更改。	每次對話都不同，由用戶輸入。
例子	「你是一位資深的金融顧問，語氣專業嚴謹。」「你是一個銀行自動化審核員，必須識別所有匯款紀錄中的『交易參考號碼』並核對金額。」	「請解釋什麼是複利效應。」「幫我確認這筆 HKD 2,500.00 的支付是否成功，參考編號為 xxxxxxx。」

Tool（工具）、 MCP（大模型上下文協議）

LLM 不能與外部環境互動，為了讓它能夠幫你真正做事情，我們必須給它工具（Tool）。

LLM 本身不會查實時匯率，也不會幫你發郵件。但它可以調用 Tool。例如，當 LLM 意識到你的需求涉及計算時，它會調用「計算機工具」；當它需要最新新聞時，它會調用「搜尋工具」。

Tool 讓 LLM 能夠具備「環境感知」能力。它不再是被動等待輸入，而是能感知到你電腦裡檔案的變動，並主動詢問是否需要處理。

大模型上下文協議 MCP (Model Context Protocol) 是 2026 年最核心的技術突破之一，MCP 可以簡單地理解爲各類型工具的「萬用轉接頭」。過去 LLM 要控制 Google Drive 必須寫一套代碼，控制 Slack 又要另一套代碼。MCP 統一了數據存取的規範。

Agent（智能體）、 Skills（技能）

Agent 是 AI 進化的最新形態，Agent 的誕生令 LLM 不再是個一問一答的簡單聯天機構人，而是可以讓用戶給予任務，然後自主調用工具，執行任務的 AI 員工。

Agent 具備推理（Reasoning）能力，能夠理解用戶需求、拆解任務步驟、、自主調用工具、整合數據，至最終成果交付。

就以股票分析爲例，用戶可以將繁瑣的資料搜集，整理，分析工作交給 AI 處理。由 Invest101 獨家研發的智能股票分析師 Invest101 Copilot 就是爲解決個人投資者於分析股票時遇到的痛點而誕生的一款AI 智能體， Invest101 Copilot 結合最前沿的大型語言模型 (LLMs) 與優質數據，用戶只需提供股票或ETF代碼， Invest101 Copilot 就能夠自主調用工具，從可靠來源獲取的所需金融數據，對數據進行整合，再與媒體資料推行比對審核，2 分鐘內提供一份機構級別的完整深度研究報告，讓一般個人投資者可享有機構級的資訊優勢。