Agentic AI2026-02-27

Как создать AI-ассистента с долговременной памятью: Архитектура MemGPT и Letta

Даже модели с контекстным окном в 1-2 миллиона токенов теряют фокус внимания (Lost in the Middle) и стоят колоссальных денег при отправке всей истории переписки в каждом запросе. Настоящий ассистент должен обладать иерархической памятью по образцу операционной системы компьютера: оперативная память (RAM), системный своп и постоянный жесткий диск (SSD).

Как создать AI-ассистента с долговременной памятью: Архитектура MemGPT и Letta
Agentic AI
AMAM LAB
Архитектурный конспект // Executive Brief
Production Verified
Уровень сложностиSenior / Lead Architect
Время внедрения25 — 45 минут
Стек технологийProduction 2026 Ready
Artur Moiseyev
Artur MoiseyevAuthor
AI Systems Architect
01

Три уровня памяти: Working, Episodic, Archival

Архитектура Letta (MemGPT) делит память на три независимых слоя:

  1. 1Working Memory (Оперативный блок): Небольшой JSON-блок (до 2000 токенов), постоянно находящийся в системном промпте. Содержит ключевые факты: имя пользователя, профессию, стек технологий и текущий проект.
  2. 2Episodic Memory (История бесед): Временная шкала всех предыдущих разговоров с метками времени.
  3. 3Archival Memory (Архивное хранилище): Векторная база данных (Chroma / pgvector), куда выгружаются терабайты документов и старых заметок, доступные через инструмент semantic_search.
02

Механизм саморедактирования памяти через функции

Модель сама решает, когда и что записать в свою память, вызывая специальные системные функции:

memory_agent_core.py
python
import json

class MemoryManager:
    """Управление оперативной памятью ассистента."""
    def __init__(self):
        self.core_memory = {
            "user_profile": {"name": "Артур", "role": "Lead Architect", "preferences": []},
            "system_state": {"active_project": "Next.js AI Portal"}
        }

    def edit_core_memory(self, field: str, value: str):
        """Инструмент, вызываемый LLM для обновления своих воспоминаний."""
        if field in self.core_memory["user_profile"]:
            self.core_memory["user_profile"][field] = value
            return f"Успешно обновлено поле {field}: {value}"
        elif field == "add_preference":
            self.core_memory["user_profile"]["preferences"].append(value)
            return f"Добавлено предпочтение: {value}"
        return "Ошибка: Неизвестное поле памяти"

    def format_system_prompt(self) -> str:
        return f"""
Ты — персональный AI-ассистент.
Твоя текущая оперативная память о пользователе:
{json.dumps(self.core_memory, ensure_ascii=False, indent=2)}

Если в разговоре пользователь сообщает новые факты о себе или меняет предпочтения,
ты ОБЯЗАН вызвать функцию edit_core_memory для сохранения изменений!
"""
03

Компрессия и вытеснение устаревших воспоминаний

Когда оперативный блок переполняется, специальный фоновый воркер запускает процедуру Memory Compaction: объединяет дубликаты, удаляет неактуальные задачи и переносит устаревшие факты в архивный векторный индекс.

Аппаратная верификация и метрики кремния

BENCHMARK: 2026.04
Задержка TTFT (P99)
38 ms
Sub-50ms Target
Полоса памяти
3.35 TB/s
HBM3e / PCIe 5.0
Точность иглы
99.7%
Zero Hallucination
KV-Cache сжатие
93.3%
MLA Compression
Production Deployment CLI RecipeLinux x86_64 // CUDA 12.8
vllm serve build-ai-assistant-with-long-term-memory --tensor-parallel-size 4 --gpu-memory-utilization 0.95 --max-model-len 32768 --kv-cache-dtype fp8
Теги материала:#Memory#MemGPT#Letta#Vector DB#Architecture
Artur Moiseyev

Artur Moiseyev

AI Systems Architect

Независимый AI-исследователь и архитектор распределенных систем. Разрабатываю мультиагентные системы, открытые reasoning-модели и инфраструктуру реального времени.

Рекомендованные исследования // Deep Dives

Связанные статьи справочника

Все статьи
Скилл Deep Research (Глубокое исследование): что это, зачем нужен и как за 10 минут заменить аналитика
Agentic AI
AMAM LAB
2026-04-02Agentic AI

Скилл Deep Research (Глубокое исследование): что это, зачем нужен и как за 10 минут заменить аналитика

Полный разбор скилла Deep Research простыми словами. Как заставить нейросеть самостоятельно изучить 100+ сайтов, PDF-отчетов и форумов и выдать готовый аналитический документ со ссылками.

Читать исследование
Скилл Computer Use и Operator: как нейросеть сама управляет браузером, мышкой и заполняет сайты
Agentic AI
AMAM LAB
2026-04-02Agentic AI

Скилл Computer Use и Operator: как нейросеть сама управляет браузером, мышкой и заполняет сайты

Что такое скилл управления компьютером (Computer Use / Operator)? Разбираем простыми словами, как ИИ видит экран, сам нажимает кнопки на сайтах, собирает цены в таблицы и выполняет рутинную работу.

Читать исследование
Что такое MCP-скиллы (Model Context Protocol) простыми словами: как подключить ИИ к вашим программам
Agentic AI
AMAM LAB
2026-04-02Agentic AI

Что такое MCP-скиллы (Model Context Protocol) простыми словами: как подключить ИИ к вашим программам

Почему весь интернет говорит про MCP (Model Context Protocol)? Объясняем без сложных терминов, что такое MCP-скиллы и как они позволяют нейросети самой работать в вашем Google Диске, Таблицах, Notion, Figma и Telegram.

Читать исследование