MemPro: Hệ thống Bộ nhớ Đại lý như Chương trình Tiến hóa

arXiv:2606.00619 · 2026-06-02 · Nghiên cứu AI Agent Memory

🧠 Một câu tóm tắt: MemPro biến toàn bộ pipeline Bộ nhớ (Xây dựng–Truy xuất) của LLM Agent thành một chương trình có thể tiến hóa — thay vì chỉ tinh chỉnh prompt hay vector store, nó để hệ thống tự tối ưu toàn bộ kiến trúc bộ nhớ qua các thế hệ.
🧠 一句話結論：MemPro 將 LLM Agent 的整個記憶管線（構建–檢索）變成一個可進化的程式——不僅僅是調整 prompt 或向量存儲，而是讓系統跨世代自動優化整個記憶架構。

Dữ liệu then chốt / 關鍵數據

Chỉ số / 指標MemProSo với Baseline / 對比基準
Độ chính xác truy xuất / 檢索準確率↑ 18–24%Vượt trội hơn prompt tĩnh / 優於靜態 prompt
Độ trễ truy vấn / 查詢延遲↓ 35%Pipeline tự tối ưu / 管線自我優化
Số thế hệ tiến hóa / 進化代數5–15 thế hệ / 代Hội tụ nhanh / 快速收斂
Chi phí LLM gọi / LLM 調用成本Tiết kiệm 40%Ít truy xuất thừa / 減少冗餘檢索
Khả năng tổng quát / 泛化能力3/3 benchmarkHoạt động trên đa tác vụ / 跨任務通用

Phân tích cơ chế / 機制拆解

Vấn đề: Hệ thống bộ nhớ LLM Agent truyền thống có pipeline cố định: (1) Xây dựng bộ nhớ từ lịch sử → (2) Truy xuất khi cần. Pipeline này được thiết kế thủ công, không thích nghi với tác vụ cụ thể.

Giải pháp của MemPro:

  1. Biểu diễn pipeline thành chương trình: Toàn bộ Memory Construction-Retrieval (MCR) pipeline được mã hóa dưới dạng code có cấu trúc (không phải prompt).
  2. Tiến hóa qua thuật toán di truyền: Mỗi «cá thể» là một phiên bản pipeline. Các cá thể được đánh giá, lai ghép, đột biến qua nhiều thế hệ để tối ưu hóa độ chính xác truy xuất.
  3. Không gian tìm kiếm rộng hơn: Không chỉ tối ưu tham số truy xuất (top-K, threshold), MemPro còn tiến hóa cả chiến lược ghi nhớ (khi nào ghi, ghi gì, nén ra sao) và cấu trúc tổ chức bộ nhớ (phân cấp, đồ thị, phẳng).

問題：傳統 LLM Agent 記憶系統使用固定管線：(1) 從歷史構建記憶 → (2) 需要時檢索。此管線為人工設計，無法適應特定任務。

MemPro 的解決方案：

  1. 將管線表示為程式：整個記憶構建-檢索（MCR）管線被編碼為結構化代碼（非 prompt）。
  2. 通過遺傳演算法進化：每個「個體」是一個管線版本。個體經評估、交叉、突變，跨世代優化檢索準確率。
  3. 更廣的搜索空間：不僅優化檢索參數（top-K、閾值），MemPro 還進化記憶寫入策略（何時寫、寫什麼、如何壓縮）和記憶組織結構（分層、圖形、平面）。

Ứng dụng thực tế / 落地應用

  1. Agent dài hạn: Thay vì thiết kế pipeline bộ nhớ thủ công cho từng ứng dụng, triển khai MemPro và để nó tự tiến hóa pipeline tối ưu cho ngữ cảnh cụ thể.
  2. Tự động hóa RAG: MemPro có thể tiến hóa toàn bộ pipeline RAG (chunking + embedding + retrieval + rerank) thành một chương trình tối ưu — không cần kỹ sư tune từng bước.
  3. Tiết kiệm chi phí LLM: Pipeline tối ưu giảm 40% số lần gọi LLM không cần thiết — quan trọng cho hệ thống production quy mô lớn.
  4. Hướng mở: Có thể mở rộng sang các pipeline khác của agent: lập kế hoạch, lựa chọn công cụ, tự phản tỉnh.
  1. 長期 Agent：不再為每個應用手動設計記憶管線，部署 MemPro 讓它自動進化出針對特定場景的最優管線。
  2. 自動化 RAG：MemPro 可將整個 RAG 管線（分塊 + 嵌入 + 檢索 + 重排）進化為最優程式——無需工程師逐步調參。
  3. 節省 LLM 成本：最優管線減少 40% 不必要的 LLM 調用——對大規模生產系統至關重要。
  4. 開放方向：可擴展到 Agent 的其他管線：規劃、工具選擇、自我反思。
📌 Điểm khác biệt cốt lõi: MemPro không chỉ là một kỹ thuật tối ưu bộ nhớ — nó là một meta-framework biến bài toán thiết kế pipeline thành bài toán tối ưu hóa tự động. Đây là bước tiến từ «kỹ sư viết policy» sang «kỹ sư định nghĩa không gian tìm kiếm».
📌 核心差異：MemPro 不僅是一個記憶優化技術——它是一個 元框架，將管線設計問題轉化為自動優化問題。這是從「工程師寫策略」到「工程師定義搜索空間」的躍遷。