LLM 工程 · Agentic System · Harness Engineering

Articles

All Agentic System Source Code Tutorial Harness Engineering LLMOps System Design Others
System Design AgenticSystem 架構全景：四個類別、五個系統的設計選擇與取捨 從 System Design 角度橫向分析五個 Agentic System 的架構類別（Agent Framework / AI Gateway / Agent Service / Hosting Platform）。涵蓋各類別設計決策、Cross-cutting ADR、Scenario 選型矩陣與 Trade-off 總表。
28 分 2026-05-28
Implement 用 RPG 架構評估 SRE Agent：Kube Arena 設計紀錄 評估 SRE agent 靠 pass/fail 不夠——你需要知道它在哪裡浪費步驟、有沒有形成假設。Kube Arena 用三組件架構在真實 k3d cluster 上測試任何 OpenAI-compatible agent，輸出 efficiency score 和 wasted steps 分析。
14 分 2026-05-28
System Design MCP、CLI、還是直呼 API？先看工具長什麼樣 MCP vs CLI 的辯論少了一個前置問題：你的工具有什麼介面？gh CLI 比 GitHub MCP 省 40 倍 tokens，但沒有 terminal 的 SaaS 環境只能用 MCP remote。cli-printing-press 從 OpenAPI spec 生成 agent-native CLI，CLI-Anything 給 GUI 應用反向工程出 REPL CLI。先看介面，再選協議。
16 分 2026-05-23
System Design Agent 要怎麼進化？六個系統的 Self-Improvement 機制比較 六個 agentic system 都說「越用越強」，但進化機制從底層就不同：GenericAgent 結晶跑通的執行路徑，HermesAgent 同時走 prompt 層和模型層，DeerFlow 更新用戶認知，NanoClaw 擴展容器能力，HolmesGPT 和 OpenClaw 刻意不自動進化。這篇把四個設計選擇攤開來比。
20 分 2026-05-22
System Design SOUL 設計決定了 Agent 是什麼：六個 Agentic System 的 system prompt 比較 六個真實 Agentic System 的 SOUL 設計與工具配置全比較：GenericAgent 無邊界全能宣言、HolmesGPT 的行為協議內嵌、HermesAgent 的模型感知 SOUL 補丁、DeerFlow 的架構取代文字。每個設計背後的假設、取捨與適用場景一次看清。
20 分 2026-05-22
System Design K8s SRE Task Continuity Agent（一）：系統架構設計 K8s 故障調查任務可能跨越幾十次 tool call，context compaction 一觸發 agent 就忘記自己在做什麼。如果你想設計一個不會在調查進行到一半就斷掉的 SRE Agent，這篇說明 Session、Memory、Knowledge 三層的邊界設計，以及 Agentic Loop 的兩個 plugin 點怎麼架構。
11 分 2026-05-16
System Design K8s SRE Task Continuity Agent（二）：開發 Roadmap 與分工設計 三層架構如果同時開發，每一層都要等另一層穩定才能驗收，等於三個方向同時出問題、無從診斷。如果你拿到了 K8s SRE Task Continuity Agent 的架構設計，不知道該從哪裡動手，這篇拆解三個可獨立驗收的 Phase、兩人垂直分工設計，以及 Interface-First 為什麼是並行開發的前提。
10 分 2026-05-16
System Design K8s SRE Task Continuity Agent（三）：Testing 與 Observability 設計 Agentic System 的 testing 無法用 assert output == expected 驗證：同一個 K8s 故障，Agent 可能走三步也可能走七步。如果你想知道怎麼設計 Minikube sandbox 讓每個 failure 場景可重現、怎麼讓 regression test 跨 Phase 累積不退步、以及用三層 monitoring 看系統健康，這篇說明 K8s SRE Agent 的 Testing 與 Observability 設計。
10 分 2026-05-16
Harness Engineering 從一個任務出發：怎麼疊加一個夠用的 Agent 系統 看完四個完整的 Agent 框架之後，真正要自己做一個系統，從哪裡開始？不是每個功能都需要，也不是什麼都能省。這篇從核心迴圈出發，說明 Plugin 設計為什麼要第一天就做對、Fail Recovery 的三個子層各解什麼問題，以及 Harness 層在哪個時間點才值得加進來。
5 分 2026-05-01
System Design Frontier、Mini、還是自建：Production LLM 的架構沒有標準答案 要讓系統用上 LLM，Frontier model、Mini model、自建 HuggingFace 三條路各有取捨，但邊界很難畫。如果你在做架構決策、不確定何時該往下一個階段走，這篇把三個選項理解成一條演化路徑——從快速驗證到逐漸掌控——幫你問出「現在在哪個階段」這個更務實的問題。
6 分 2026-04-13
System Design LLM Agent 四大架構模式：選型指南 選錯 LLM Agent 架構模式，成本可以差 30 倍。從 Tool Calling 到 Reflexion，解析四大核心模式的機制差異、適用場景與成本權衡，幫 Tech Lead 在系統設計前做出正確的架構選型決策。
11 分 2026-03-23
System Design RAG System 完整指南：從原理到實踐 LLM 不知道你的私有資料、訓練資料有截止點、回答容易幻覺——這些限制讓它在垂直領域問答場景幾乎無法直接使用。這篇完整說明 RAG 系統的技術選型（Chunking、Embedding、Vector DB）、三大查詢優化策略，以及如何用 RAGAS 評估系統品質。
55 分 2026-03-23
System Design LLM Cache 策略：從 Prompt Cache 到 Semantic Cache LLM 系統每天處理大量重複性請求，即使 prompt 已最小化，成本仍居高不下。這篇解析兩層 Cache 策略的差異：Prompt Cache 如何減少重複 token 計算，Semantic Cache 如何讓語意相似的問題直接命中快取。
24 分 2026-01-01
System Design 向量資料庫完全指南：為什麼 LLM 時代需要 Vector DB？ 傳統關鍵字搜尋要求字面完全匹配，無法處理「意思相近但用詞不同」的查詢，導致 RAG 系統找不到真正相關的文件。這篇從底層原理解釋向量資料庫如何解決語意搜尋問題，以及主流方案的選型差異。
16 分 2025-12-31
System Design LangChain vs LangGraph vs DeepAgents：該選哪個 AI Agent 框架？完整場景對比指南 LangChain、LangGraph、DeepAgents 同屬 LangChain 生態系，但適用場景截然不同——選錯會讓你在複雜流程上卡關。這篇從狀態管理、工作流程複雜度、生產可靠性三個維度，幫你找到正確的技術選型。
21 分 2025-12-04