Favicon02

上下文工程是什麼?搞懂管理、視窗與壓縮

上下文工程如何讓 AI 掌握任務?用活動企劃案例,白話區分上下文管理、上下文視窗與上下文壓縮,附任務交接摘要範本,說明何時補資料、整理版本或開新對話。

上下文工程(Context Engineering),是規劃 AI 執行任務時要接收哪些資訊、何時接收,以及如何組織與維護這些資訊的方法。從指令、參考資料到先前的決策,哪些內容能進入模型這一輪的處理範圍,都會影響它接下來的回答與行動。

這也是為什麼,同樣請 AI 寫一份企劃,有時它能掌握方向,有時卻連已經確認的預算都弄錯。除了模型能力,還要檢查:資料有沒有提供、版本是否清楚,以及討論變長之後,重要條件是否仍被保留下來。

本文用一個活動企劃案例,串起上下文工程、上下文管理、上下文視窗與上下文壓縮四個概念。理解它們之後,你就能更有系統地交代工作,也知道 AI 開始偏題時,應該從哪裡修正。


AI 上下文是什麼?先分清楚資料有存和這次有讀

AI 的上下文(Context),是模型這次產生回應時能參考的資訊。它可能包含你剛輸入的訊息、被帶入的歷史對話、系統指令、參考文件,以及工具查詢的結果。Anthropic 對上下文工程的說明,也把這些資訊視為需要持續整理的整體。

可以把它想成開會時攤在桌上的資料:公司可能有一整櫃檔案,但這場會議能直接討論的,是實際拿到桌上的部分。這個比喻只用來理解「目前可用的資料」,不代表 AI 具有和人類相同的記憶方式。

假設你請 AI 規劃一場線上課程說明會。你知道受眾是小型企業主、預算上限是三萬元、團隊只有兩人,而且活動不能打折;但如果這些條件沒有進入它這一輪可用的上下文,它就可能提出需要大型團隊執行的折扣活動。

檔案存在硬碟、對話仍顯示在畫面上,都不能單憑這點確認內容已完整提供給模型。應用程式可能挑選片段、搜尋資料或帶入摘要。若結果必須依據某份文件,實務上可要求 AI 先列出已讀取的檔名、版本與相關段落,再檢查是否真的用對來源。


上下文工程、管理、視窗與壓縮,有什麼不同?

四個名詞談的是不同層次:工程處理整體設計,管理處理任務進行中的資訊維護,視窗描述容量限制,壓縮則是節省上下文空間的一種方法。下表是方便實務理解的分工;不同工具的命名與實作可能略有差異,不必把它們當成四個完全分離的功能。

名詞 主要處理的問題 活動企劃案例
上下文工程
Context Engineering
整體規劃給 AI 什麼資訊、何時給、怎麼組織。 設計任務簡報,指定品牌規則、資料來源與成果格式。
上下文管理
Context Management
維護目前有效的資料、決策與工作進度。 預算調整後更新條件,保留已核定方案並移除失效草案。
上下文視窗
Context Window
模型單次處理上下文的容量上限。 這一輪能容納多少企劃資料、對話與輸出。
上下文壓縮
Context Compaction/Compression
把冗長內容改成較精簡的表示,保留任務所需資訊。 將多輪討論整理成「目前決策、限制、來源、待辦」。

從使用者的角度,最有用的順序是:先把任務資料設計好,再隨工作更新;接近容量限制或討論累積太多雜訊時,才評估是否需要壓縮。短小、單純的工作,通常不需要額外建立一套複雜流程。

上下文工程規劃任務資訊,視窗界定容量,管理維持有效版本,壓縮保留接續工作的要點。

上下文工程:把工作交代到 AI 有依據可做

上下文工程可以從一份好的任務簡報開始。以活動企劃為例,只說「幫我想一個有創意的行銷活動」,留下的空白很多;你可以進一步提供受眾、活動目的、資源限制、可用素材,以及這次要交付的成果。

請為一場線上課程說明會提出企劃。受眾是剛開始經營品牌的小型企業主,目的為取得有效報名;預算上限三萬元,執行人力兩人,不提供折扣。請參考附上的課程介紹與品牌語氣範例,先提出兩個方向,列出各自的工作量、資源需求及待確認事項。

這段指令的價值,在於讓 AI 有條件可以判斷取捨。再補上一項「資料不足時請標示待確認,不要自行補成事實」,也能讓你更容易辨識哪些部分需要補資料。上述是示範用的工作設計,並非任何模型的固定格式。

如果你已熟悉 Prompt 提示詞的寫法,可以把視野往外擴一層:指令寫得清楚之外,參考資料是否正確、檔案版本是否一致、需要的資訊何時載入,也要一起安排。上下文工程會涵蓋這些相互配合的工作。

資訊多的任務,也可以按階段準備資料。例如,選活動方向時提供受眾研究與資源限制;方向確認後,再載入報名頁範例與執行時程。若工作依賴大型知識庫,RAG 檢索增強生成可用來找出相關資料,再將取回內容交給模型參考。


上下文視窗:容量更大,仍需要確認有沒有用對資料

上下文視窗(Context Window,也常譯為上下文窗口)描述模型在單次處理中可容納的資訊範圍,通常以 token 計算。Token 是模型處理文字等內容的單位,不能直接等同中文字數;想進一步理解計算方式,可延伸閱讀 AI Token 入門

還要留意規格的計算口徑。以 Claude API 的官方說明為例,系統指令、對話、工具定義與結果等輸入都會占用視窗,本輪輸出也要計入;模型可能另有輸出上限。因此,不能把標示的視窗大小,全都當成可貼入文件的額度。

較大的視窗,能讓更多相關資料同時被處理。例如,跨文件分析需要比對多份紀錄時,大視窗有實際價值。不過,「放得進去」和「每一個細節都能準確取用」仍是兩個判斷;Google 的長上下文文件也指出,需要找出多個資訊點時,準確度會依情境而有差異。

《Lost in the Middle》研究則在其測試的模型與任務中觀察到:相關資訊放在長上下文中間時,表現可能比放在開頭或結尾更差。這份研究不能直接推成「所有新模型都會以相同比例漏讀」,但提醒我們,評估長文件能力要檢查實際答案與引用,不能只看容量數字。

用在企劃工作上,你可以把目前有效的限制整理在清楚標示的區段,並在交稿前核對預算、人力與活動規則。有需要時,請 AI 指出每個關鍵判斷對應的來源;它說「已經讀過」,仍需要由可核對的結果來驗收。



上下文管理:讓最新決策持續跟著任務走

上下文管理(Context Management)著重在任務進行中,如何保留、更新、移除與重新載入資訊。Microsoft 的 Agent Framework 文件就將訊息記錄、額外上下文與精簡歷史的策略放在一起討論,說明這不只是一開始給一次資料的問題。

假設活動原本有三萬元預算,討論到一半改為兩萬元,但舊版企劃與新版條件一起留在對話裡。這時可直接寫明「目前有效預算為兩萬元,取代先前的三萬元」,再要求 AI 重算受影響的項目。只補一句「預算兩萬」而沒交代取代關係,會增加後續判讀的負擔。

實務上,可以用以下四個步驟維持任務狀態。這是一套可自行調整的工作方法,適合需要反覆討論、修改與交接的企劃、研究或寫作任務。

  1. 固定任務摘要:保留目標、受眾、輸出格式與不可違反的限制,讓每一階段都有清楚的起點。
  2. 標記有效版本:區分目前採用的決策、已淘汰的方案,以及尚待確認的假設。
  3. 按需要補資料:進入下一階段時,提供相關文件或段落;保留檔名、版本與來源位置。
  4. 在階段結束時驗收:對照限制與原始資料,確認成果,再更新進度及下一步。

對於會讀檔與操作工具的 AI Agent,還可以把重要狀態保存在專案筆記,供後續任務重新讀取。不過,筆記寫入成功與新任務讀取成功要分別確認;換一段對話之後,仍應檢查它目前取得了哪些內容。

上下文管理四步驟:固定目標與限制、更新有效版本、按階段補資料、驗收並記錄下一步。

上下文壓縮:把討論整理成能繼續工作的摘要

上下文壓縮,是將冗長內容轉成較精簡的表示,減少後續需要處理的資訊量。Compression 是較廣的說法;Compaction 在部分代理工具與 API 中,特別指將較早的對話整理成摘要,再以摘要接續任務。不同系統可能採用不同方式,不能假定所有「壓縮」都有相同行為。

以 Claude 的伺服器端 Compaction 為例,啟用後會在達到設定條件時摘要較舊的上下文,後續請求從壓縮內容繼續。它讓長任務有機會持續推進,並沒有把模型原本的單次視窗上限變成無限。這裡說明的是該 API 機制,不代表每一款聊天介面都提供相同設定。

回到活動企劃,若摘要只寫「已討論預算與活動方向,接下來做報名頁」,就不足以接手。下一輪仍不知道預算改成多少、哪些方案已被否決,以及誰要來參加。摘要的驗收標準,應該是能否支撐下一步工作。

可以使用以下範本,請 AI 在一個階段結束時整理交接資料。整理完成後,先對照原始紀錄確認數字、否定條件與來源,再保存到你能重新提供的文件中。

請將目前任務整理成可交接的摘要,包含以下欄位:

  • 任務目標與目前要交付的成果。
  • 最新且有效的限制:預算、人力、期限與禁止事項。
  • 已確認的決策及必要理由;被淘汰的方案要標記原因。
  • 已完成的工作與檔案位置。
  • 關鍵事實的來源、版本及可定位的段落。
  • 尚未驗證的假設、待確認問題與下一步。

請保留重要數字、單位與否定條件。無法確認的內容標為「待確認」,不要補成已決定。若某段必須逐字核對,請保留原文位置,提醒下一階段重新讀取。

以上述假想案例來說,合格的交接資料至少應寫明「預算已由三萬元改為兩萬元、執行人力仍為兩人、不得以折扣招募」,再說明目前採用的活動方向與下一份交付物。這些條件保留下來,下一輪才能沿著目前的決策繼續。

摘要可能漏掉細節,也可能把尚未確認的推測寫得太肯定。遇到需要逐字比對的條款、原始報價、研究數據或精確文案時,摘要只適合當索引;真正作答或驗收前,仍要回到對應原文。把摘要保存下來,也不代表可以刪除原始資料。



AI 開始偏題時,該補資料、壓縮還是開新對話?

看到 AI 漏掉條件,先檢查具體錯在哪裡。同樣是回答不理想,原因可能是資料缺漏、版本衝突、歷史太長,或任務本身已經改變;不同原因,適合的處理方式也不同。

可觀察的情況 建議處理 處理後如何驗收
關鍵條件從未提供,或來源無法讀取。 補上必要資料,確認是否讀取成功。 請 AI 列出它實際採用的條件與來源。
新舊版本混用,仍引用已失效的條件。 明確標記取代關係,更新任務摘要。 檢查後續成果是否使用最新版本。
同一任務已累積大量反覆討論。 整理交接摘要,再接續目前工作。 對照關鍵數字、限制、待辦與原文位置。
已換成另一個目標或不同客戶的任務。 考慮開新對話,重新提供必要背景。 確認新任務沒有混入上一項工作的條件。

開新對話是可選的整理方式,前提是你願意重新交代必要背景。同一項工作若還需要前面的決策,就先做可核對的交接摘要;也不要只因答案錯一次,就認定一定是上下文滿了。先定位缺失,再決定補資料或重整,通常比較容易找到有效修正。

依問題選擇處理方式:缺少條件就補資料,新舊衝突就標版本,歷史過長就做摘要,目標改變就重建背景。

讓 AI 接得住工作,從一份清楚的任務資料開始

上下文工程把資訊準備、組織與維護放進同一個工作設計;上下文管理讓有效條件跟著任務走,視窗提醒我們單次處理有容量限制,壓縮則幫助長任務保留接續所需的資訊。四個概念合起來,處理的是「AI 這一步需要知道什麼」。

下一次交辦企劃、研究或寫作時,可以先準備一頁任務摘要,寫清楚目標、最新限制、可用來源與預期成果。每完成一個階段,再確認決策與待辦。當這些資料清楚而可核對,你也更容易判斷:應該補充資訊、修正流程,還是重新評估模型是否適合這份工作。


參考資料

資料查核日:2026 年 9 月 8 日。

Frank Chiu
Frank Chiu

SEO/GEO 顧問、行銷顧問。協助本地企業與跨國企業導入 SEO、GEO 跟行銷方案,包括:雀巢、凱基銀行、大人學、居家先生、IKEA、vocus 等。

訂閱電子報