Google сократил расход токенов на длинные задачи в 16 раз

Google разработал метод SKILL.state, который снижает потребление токенов при выполнении многошаговых задач агентами ИИ. Вместо сохранения полной истории взаимодействий система оставляет только краткое описание текущего состояния, инструкцию и последнее наблюдение. На тесте со 100 шагами обычный подход потратил 1,06 млн токенов с точностью 91%, а SKILL.state использовал 65 тыс.

токенов и достиг 94% точности. На 200 шагах разница выросла до 5 млн токенов против 122 тыс. В практических тестах на задачах службы поддержки метод также чаще доводил работу до конца.