Яндекс, МТС и Сбер разрабатывают системы контроля за ИИ-агентами

Российские технологические компании — Яндекс, МТС и Сбер — разрабатывают системы контроля за действиями ИИ-агентов (harness). Это программная «обвязка» вокруг ИИ-модели, которая управляет её памятью, контекстом и доступом к данным. Потребность в таких решениях выросла по мере перехода компаний от чат-ботов к автономным программам, способным выполнять многошаговые задачи и работать с корпоративными данными.

В MWS AI разрабатывают систему, позволяющую переключаться между разными моделями, контролировать расход вычислительных ресурсов и анализировать каждое действие агента. Такой слой превращает возможности модели в полноценный сервис с контролем качества и безопасности.