Исследование первоисточников про AI Agents: Anthropic, Simon Willison, Latent.Space, OpenAI

Введение

Агенты (AI Agents) — это одно из самых горячих направлений в AI-инженерии 2025-2026 годов. На основе анализа ведущих первоисточников: блога Simon Willison, Anthropic Engineering Blog, Latent.Space и OpenAI Cookbook, выявлены ключевые тренды, архитектурные решения и лучшие практики построения автономных AI-систем.

1. Claude Code и Claude Cowork: Эволюция AI-ассистентов Anthropic

Claude Code: От вспомогательного инструмента к автономному агенту

Simon Willison назвал Claude Code "general agent, disguised as a developer tool". Это характеристика глубоко отражает эволюцию продукта: изначально позиционировавшийся как инструмент для автодополнения кода, он превратился в полноценного агента с управлением файлами, выполнением команд и принятием решений.

Ключевые цифры роста (из статьи "Code w/ Claude 2026"): - API объём вырос в 17 раз за год на платформе Anthropic - Компания Mercado Libre (23 000 инженеров) нацелена на "90% автономного кодирования к Q3 2026" - Компания eve добилась "качества frontier модели при 5x снижении стоимости" через advisory strategy использования агентов

Три интерфейса Claude Code: 1. CLI (Command Line Interface) — для разработчиков 2. IDE-интеграция — встроенные инструменты 3. Desktop приложение — для непрограммистов

Все три построены на едином Claude Agent SDK.

Новые возможности (May 2026)

Anthropic представила три публичные бета-фичи:

Multi-agent orchestration (оркестровка множества агентов) — координация флотов агентов для сложных задач. Это позволяет распределять работу, как в исследовательской системе Anthropic, где один ведущий агент координирует специализированных подагентов.
Outcomes (результаты) — установка явных критериев успеха (success criteria) для итеративного улучшения агентов. Вместо "напиши функцию" теперь можно определить "функция работает, проходит все тесты, документирована".
Dreaming (исследование) — самоанализ предыдущих сессий и создание новых памятей (persistent memories) для самосовершенствования. Это шаг к агентам с долгосрочной памятью.

Claude Cowork: Демократизация мощности

Claude Cowork — это расширение идеи Claude Code за пределы разработки. Как выразился Simon Willison: "Claude Code для остального вашей работы".

Ключевые возможности: - Работа с документами в выбранных папках (file analysis) - Веб-поиск (web search) - Выполнение системных команд в изолированной среде - Создание артефактов (HTML, файлы)

Изоляция через виртуализацию: файлы монтируются в защищённый контейнер с использованием Apple Virtualization Framework.

Доступность: изначально для Max-подписчиков ($100–200/мес), затем расширено на Pro-подписчиков ($20/мес) — пример демократизации AI-инструментов.

Claude Code for Web (октябрь 2025)

Веб-версия асинхронного агента доступна через claude.ai/code. Ключевые особенности: - Подключение к GitHub-репозиториям - Три уровня сетевой изоляции - Режим "Без доступа в сеть" для максимальной безопасности

Безопасность через изоляцию: - Изоляция файловой системы - Контроль исходящего трафика через прокси-сервер - Критически важно для предотвращения атак "lethal trifecta" и prompt injection

Claude Code Remote Control

Функция позволяет запустить сеанс удаленного управления (remote session) на вашем компьютере и управлять им через веб-интерфейс или мобильное приложение. Текущие ограничения: требует одобрения каждого действия, поддерживается только один активный сеанс, встречаются API 500 ошибки.

Важное замечание: "Запланированные задачи (scheduled tasks) выполняются только при включенном компьютере и открытом приложении" — это отражает текущие ограничения асинхронного выполнения.

2. Архитектура долгоживущих агентов: Anthropic Engineering

Двухуровневая архитектура (Long-running agents harness)

Anthropic предложила эффективный паттерн для проектов, требующих множество итераций:

Инициализирующий агент (Initializer) — создает начальную среду с контекстом
Кодирующий агент (Coder) — работает итеративно, делая пошаговый прогресс в каждой сессии

Ключевые компоненты: - Feature List (JSON) — отслеживает все требуемые возможности, помечая их как "failing" для четкого понимания задач - Git commits — описательные коммиты для документирования прогресса - Progress файлы — отслеживание выполненных функций

Стартовый протокол сессии

Агент должен начинать с: 1. Проверка директории проекта 2. Чтение Git-логов 3. Изучение списка функций 4. Запуск development-сервера 5. Базовая проверка работоспособности

Это предотвращает преждевременное завершение, многократное переделывание работы и баги.

Масштабирование управляемых агентов (Scaling Managed Agents)

Anthropic реализовала революционный подход — декаплинг "мозга" от "рук":

"Мы виртуализировали компоненты агента: сеанс (журнал событий), обработчик (цикл вызовов Claude) и изолированную среду (для выполнения кода)".

Три архитектурных инновации: 1. Отделение логики от инструментов — Claude и его рассуждение отделены от физических инструментов (контейнеры, песочницы, внешние сервисы) 2. Устранение "домашних питомцев" — вместо единого хрупкого контейнера, используются взаимозаменяемые компоненты 3. Безопасность через разделение — учётные данные хранятся отдельно, Claude не получает доступа к токенам

Сеанс вне контекстного окна: журнал событий позволяет Claude запрашивать историю программно, не теряя информацию при переполнении контекста.

Практический пример: C-компилятор с 16 параллельными Claudes

Nicholas Carlini из Anthropic Safeguards поставил задачу 16 экземплярам Claude Opus 4.6 разработать Rust-based C-компилятор, способный компилировать Linux kernel.

Архитектура параллелизма: - Каждый агент работает в бесконечном цикле в отдельном Docker-контейнере - Система блокировок через текстовые файлы для избежания конфликтов - Специализация: разные агенты фокусировались на компиляции ядра, оптимизации, документации

Результаты (затраты ~$20,000, ~2000 сессий): - 100 000 строк кода компилятора - Успешно компилирует Linux 6.9 для x86, ARM, RISC-V - Проходит 99% тестов GCC torture test - Компилирует QEMU, FFmpeg, SQLite, PostgreSQL, Redis - Даже запускает Doom

Ограничения: полагается на GCC для 16-битной x86-компиляции, генерирует менее эффективный код.

Мульти-агентная исследовательская система

Система использует паттерн "оркестратор-исполнитель": - Ведущий агент (Claude Opus 4) анализирует запрос и создает специализированных подагентов - Подагенты (Claude Sonnet 4) работают параллельно над разными аспектами - Динамический поиск: агенты адаптируют подход на основе промежуточных результатов

Ключевой результат: "Мульти-агентная система превосходила одиночного Opus 4 на 90.2% в их внутренней оценке".

Анализ токенов: - Агенты используют ~4× больше токенов, чем чат - Мульти-агентные системы используют ~15× больше - Параллельные вызовы инструментов сократили время исследования до 90%

3. Evaluations (оценки) для AI агентов

Core Concept

Evaluation — это "тест для AI-системы: дай AI входные данные, применили логику грейдинга к выходу, измери успех". Ключевое отличие от обычного тестирования: агенты используют инструменты, что добавляет complexity.

Основные определения

Task — один тест с определенными входами и критериями успеха
Trial — один попыт на задачу; несколько trials дают статистику
Grader — логика, которая оценивает успешность
Transcript — полная запись: выходы, вызовы инструментов, взаимодействия
Outcome — финальное состояние окружения после trial

Три типа грейдеров

Code-based graders (string matching, binary tests) — быстрые, объективные, но не гибкие
Model-based graders — гибкие, но вероятностные и дорогие
Human graders — золотой стандарт, но не масштабируются

Ключевые метрики

pass@k — вероятность хотя бы одного правильного решения из k попыток
pass^k — вероятность что все k trials успешны (более требовательный критерий)

Практическая реализация

Рекомендация: начинать с 20-50 tasks из реальных сбоев, а не ждать 100+. Ключи успеха: - Читай transcripts регулярно - Проектируй стабильные изолированные окружения - Избегай eval saturation через постоянное расширение сложных задач

4. Инструменты (Tools) для AI агентов

Advanced Tool Use (Anthropic, 2026)

Три новые бета-функции революционизируют работу с инструментами:

1. Tool Search Tool

Позволяет Claude динамически обнаруживать инструменты вместо загрузки всех определений сразу.

Результаты: - Сокращение потребления токенов на 85% (191,300 vs 122,800 токенов контекста) - Улучшение точности с 79.5% до 88.1% (Opus 4.5)

2. Programmatic Tool Calling

Claude вызывает инструменты через код вместо отдельных API-запросов.

Результаты: - Сокращение контекстного загрязнения на 37% - Устранение 19+ inference passes при оркестровке множества вызовов

3. Tool Use Examples

Конкретные примеры использования вместо только JSON-схем.

Результаты: улучшение точности на сложных параметрах с 72% до 90%

Лучшие практики для инструментов

Выбор правильных инструментов — не все улучшают производительность. Строй несколько продуманных, ориентированных на конкретные высокоприоритетные рабочие потоки.
Структурирование (namespacing) — группируй связанные tools под общими префиксами
Релевантный контекст — возвращай только высокосигнальную информацию, используй понятные имена
Оптимизация по токенам — пагинация, фильтрация, усечение ответов
Промт-инжиниринг описаний — "один из наиболее эффективных методов улучшения tools"
Тестирование через evals — разработай оценочные задачи на основе реальных сценариев

5. Управление контекстом и долгосрочная память агентов

Проблема переполнения контекстного окна

Одна из главных проблем долгоживущих агентов — управление растущей историей взаимодействий. Traditionalist approaches требуют регулярного "сжатия" истории или потерю информации.

Anthropic's managed agents решают это через сеанс вне контекстного окна (session-as-a-service architecture). Журнал событий (event log) позволяет Claude программно запрашивать историю и контекст, не теряя информацию при переполнении окна контекста. Это аналогично database query вместо загрузки всей базы в память.

Dreaming: Самоанализ и создание воспоминаний

Новая фича Claude Code (May 2026) — "Dreaming" (research preview) — позволяет агентам: - Анализировать предыдущие сессии (analyze past sessions) - Выявлять паттерны и ошибки (identify patterns and mistakes) - Создавать новые памяти для самосовершенствования (create persistent memories for self-improvement) - Применять lessons из истории к новым задачам

Это первый шаг к агентам, которые не просто забывают каждую сессию, а учатся из опыта.

Практическое применение: управление состоянием

В долгоживущих приложениях (long-running applications) ключ — четкое отслеживание состояния: - Progress файлы содержат список задач с их статусами (completed, in-progress, failing) - Git commits служат atomically-indexed history - Регулярные точки восстановления (checkpoints) позволяют rollback при ошибках

5b. Безопасность и изоляция

Три подхода Anthropic

1. claude.ai — эфемерный контейнер (gVisor) - Серверная изоляция - Файловая система эфемерна для каждой сессии - Нет доступа к машине пользователя

2. Claude Code — песочница с участием человека - Запускается на машине пользователя с доступом к файлам - Песочница на уровне ОС (Seatbelt на macOS, bubblewrap на Linux) - Требует одобрения для критических операций

3. Claude Cowork — виртуальная машина - Для пользователей, менее знакомых с bash - Максимальная изоляция - Учётные данные хранятся отдельно в хранилище ключей хоста

Три уровня защиты

Окружение — песочницы, VM, контроль исходящего трафика
Модель — система промптов, классификаторы
Внешний контент — проверка MCP-серверов и инструментов

"Детерминированные границы на уровне окружения важнее, чем вероятностная защита модели"

6. Управляемые агенты (Governed Agents)

OpenAI's Agentic Governance Guide

Фундаментальная идея: сделай governance кодом, а не документом.

Трехуровневая архитектура

Централизованная политика — определи guardrails один раз в JSON config, версионируй как код, установи через pip
Автоматическое принятие — применяй guardrails ко всем OpenAI-вызовам без ручных bottleneck'ов
Observability — трассируй всю активность агента для отладки и compliance-аудита

Примеры Guardrails

Input validation: PII detection, jailbreak prevention, off-topic blocking
Output protection: redact sensitive data
Defense against: prompt injection, moderation, domain-specific rules

Архитектура Multi-Agent с Handoffs

Specialist agents для доменных задач (screening, portfolio management)
Triage agent маршрутизирует запросы
Каждый агент с определенными tools и scope

7. Самоэволюционирующие агенты (Self-Evolving Agents)

Концепция

Система, которая улучшается автоматически через feedback loops: 1. Baseline agent производит выходы 2. Human reviewers или LLM-as-judge системы оценивают 3. Structured feedback (feedback patterns) управляют optimization 4. Улучшенные версии заменяют baseline при достижении критериев

Процесс

Evaluation — выходы оценяются через rule-based checks и LLM evaluators
Feedback Collection — "Summary is too long" становится input для улучшения
Prompt Refinement — metaprompt agent генерирует улучшенные инструкции
Version Control — rollback capability поддерживается

Преимущество: смещение человеческих усилий "from detailed correction to high-level oversight", что позволяет быстрые итерации с сохранением качества.

8. Agent Engineering Framework (Latent.Space)

IMPACT Framework

Six elements отличают агентов:

Tools (инструменты) — RAG, песочницы, браузеры
Intent (намерение) — закодированные цели и оценка
Memory (память) — долгосрочная память для самосовершенствования
Planning (планирование) — многошаговое планирование
Control Flow — LLM решает ход выполнения приложения
Authority (полномочия) — доверие системе действовать независимо

Определение агента (OpenAI TRIM)

"An agent is an AI application consisting of a model equipped with instructions that guide its behavior, access to tools that extend its capabilities, encapsulated in a runtime with a dynamic lifecycle"

Почему сейчас?

Лучшие модели с reasōning abilities
100% надежный structured output
Снижение стоимости обработки
Растущая скорость инференса (до 5000 токенов/сек)

Вывод: Агенты — это самое горячее направление в AI-инженерии 2025 года.

9. Harness Design для долгоживущих приложений

Трехагентная архитектура

Planner — расширяет краткое описание в полную спецификацию
Generator — реализует функциональность
Evaluator — проверяет качество через Playwright

Ключевые паттерны

Контрактация перед работой: "Генератор и оценщик согласовывают контракт спринта перед написанием кода".

Разделение ответственности: Отделение оценки от генерации критично, так как модели при самооценке "склонны с уверенностью хвалить свою работу — даже когда качество посредственное".

Обработка контекста: На Claude Opus 4.6 спринт-структура оказалась ненужной благодаря долгоконтекстным способностям.

Результаты

Полный harness: $200 за 6 часов vs $9 за 20 минут solo-запуска
Качество: Функциональность фактически работает vs множество багов в solo-версии

10. Реальные вызовы и ограничения агентов

Стоимость vs Качество

Исследование Anthropic показало критический trade-off между стоимостью и качеством:

Solo запуск (single agent approach): - Затраты: ~$9 за 20 минут - Качество: множество багов, неполная функциональность - Скорость: быстро, но "быстро неправильно"

Полный harness (orchestrated multi-agent): - Затраты: ~$200 за 6 часов - Качество: функциональность фактически работает - Скорость: медленнее, но надежнее

Это предполагает, что для критичных приложений требуется инвестировать в quality assurance и multi-agent orchestration.

Ограничения Claude Code Remote Control

Несмотря на мощь, функция Remote Control имеет текущие ограничения: - Только один активный сеанс на машине одновременно - Требуется одобрение каждого действия (нельзя пропустить с флагом --dangerously-skip-permissions) - API 500 ошибки - Перезагрузка приложения может привести к ошибкам вместо уведомления о завершении сеанса

Запланированные задачи ограничены: "выполняются только при включенном компьютере и открытом приложении" — это отражает текущие границы асинхронного выполнения в desktop среде.

Проблема "домашних питомцев" в архитектуре

Традиционно, долгоживущие сервисы требуют "домашних питомцев" — специально ухоженных контейнеров, которые сложно перезагружать. Anthropic's breakthrough — использовать вместо этого взаимозаменяемые компоненты: если контейнер сбойнет, создается новый без потери состояния (благодаря отделению session от execution environment).

Это снижает операционные затраты и повышает reliability долгоживущих агентных систем.

Нео-детерминизм в оценках (evals)

Evaluations для агентов усложнены non-determinism'ом: - Один и тот же input может дать разные outputs из-за sampling - Model-based graders сами non-deterministic - Требуется запускать multiple trials и использовать метрики pass@k

Решение: начинать с 20-50 задач из реальных сбоев (не synthetic), регулярно читать transcripts и итеративно расширять eval set.

11. Tренды и выводы (Latent.Space 2026)

"Scaling without Slop"

Главная стратегия 2026 — адресовать проблему AI-сгенерированного контента (slop), который заполнил интернет. Ключ: "changing the slope of slop, not giving up on humans".

Рост ekosystem

4 конференции AI Engineer в 2025 → минимум 7 в 2026
Новый AI for Science podcast
Физическая студия в Kernel, SF
Расширение команды

Три pillars стратегии

Multiple shows and hosts — разнообразие форматов и голосов
Diverse formats — от подкастов к daily AINews и видео-контенту
Strengthened writing — письмо как фундамент качественного мышления

12. Экономика AI-агентов: расходы и окупаемость

Парадокс затрат vs выгода

Eve компания сообщила о достижении "качества frontier модели при 5x снижении стоимости" через advisory strategy использования агентов. Это противоречит наблюдению, что мульти-агентные системы дороже.

Разрешение парадокса: 1. Агенты дороже на одну задачу, но решают более сложные задачи 2. Параллелизм агентов сокращает wall-clock time (до 90% для исследований) 3. Автоматизация заменяет дорогую ручную работу человека

Расчет ROI для компании

Mercado Libre (23 000 инженеров) нацелена на "90% автономного кодирования к Q3 2026". Если каждый инженер тратит 50% времени на routine coding, то: - Текущие затраты: 11 500 инженер-лет - Автоматизированные затраты: 1 150 инженер-лет - Экономия: 10 350 инженер-лет в год × ~$100K = $1+ billion в год

С затратами ~$20-30K на одного инженера на агентные системы, ROI явно положительный.

Асимметрия информации

Хотя Anthropic, OpenAI и другие компании публикуют успех-истории, многие компании все ещё сталкиваются с проблемами: - Агенты требуют хорошо-определённых задач (well-defined tasks) - Некорректно спроектированные tools приводят к failure cascades - Требуется invest в evals и monitoring

Это объясняет, почему "руководители снова пишут код" благодаря Claude Code — лучше использовать инструмент, который работает 80% времени, чем ждать идеального агента.

13. Взгляд в будущее: 2026-2027

Конвергенция инструментов

Три интерфейса Claude Code (CLI, IDE, Desktop) и Claude Cowork уже указывают на конвергенцию. Ожидается: - Единая платформа управления всеми агентами - Unified harness для orchestration - Marketplace для инструментов и специализированных агентов (specialized agent templates)

Специализация агентов

Будущее — не "général AI", а специализированные агенты: - Software engineer agent (Claude Code) - Research agent (Anthropic's multi-agent system) - Data analyst agent - Security audit agent - Etc.

Каждый оптимизирован для своего domain, с собственными tools и evaluation metrics.

Экосистем и сети агентов

"Agent Networks" (сети агентов) — главный тренд Latent.Space для 2025-2026. Это не одиночные агенты, а: - Организации агентов, каждый с expertise - Динамическая маршрутизация запросов - Shared learnings и знание базы (knowledge base) - Economic models внутри сети (какой агент платит другому)

Заключение

Агенты — это не просто инструменты, а новая парадигма взаимодействия с AI. Ключевые инсайты:

Декаплинг архитектуры — отделение логики от инструментов позволяет масштабировать
Долгоживущие системы требуют специальных patterns: двухуровневой архитектуры, явных контрактов, разделения ответственности
Безопасность через изоляцию —环境 boundary важнее, чем вероятностная защита модели
Инструменты — это критично — правильные tools улучшают производительность на 90%+
Evaluations — это hard — требуется комбинация code, model и human graders
Self-improvement loops — агенты могут эволюционировать автоматически через feedback
Управление — governance должно быть code, не policy documents
Экономика — мульти-агентные системы дороже, но качественно выше

Будущее — это не одиночные AI-ассистенты, а флоты специализированных агентов, координирующихся для решения сложных задач.