Искусственный интеллект: зачем я архивирую скиллы
Каждый, кто пользуется агентом с памятью, рано или поздно сталкивается с одним и тем же: инструментов становится слишком много. И рано или поздно встаёт вопрос — а не выбросить ли часть из них?
Мой агент Hermes устроен так, что у него есть скиллы — готовые процедуры, которые он подгружает по запросу. Их может быть сколько угодно, в отличие от памяти. Но у всего есть цена. И вот тут начинается самое интересное.
Скилл — это не заметка, а карточка в каталоге
Ключевое, что нужно понять: скилл работает в два приёма.Сначала агент видит только название и первую строку описания каждого скилла — всё вместе это вшивается в системный промпт на каждое ваше сообщение. Это как каталог в библиотеке: вы не читаете каждую книгу целиком, вы видите только корешки на полке.
А уже потом, когда ваш вопрос совпал со скиллом по смыслу, агент подгружает его полный текст.
Так вот, эти «корешки» — они платятся постоянно. Сто, двести скиллов — и каждый раз, при каждом обращении, вы несёте этот каталог с собой. Даже если ни один из них вам сейчас не нужен.
Почему «просто выбросить» — плохая идея
Первая мысль — удалить всё старое и неиспользуемое. Логично, но опасно. Скилл — это выстраданная процедура: как сделать то-то, какие там подводные камни, какая команда работает, а какая нет. Выкинуть её — значит потерять накопленный опыт.Хорошо, значит не удалять. Но и держать двести скиллов в каталоге — это вечный налог на каждый запрос и всё менее точный поиск: чем больше похожих скиллов, тем чаще агент выбирает не тот.
Архив — это третий путь
Архив — это середина. Скилл убирается с «полки» (перестаёт платиться как корешок в каталоге), но не уничтожается. Он остаётся в специальной папке, и его можно вернуть в один клик.В моём Hermes это делает автоматический куратор — фоновая задача, которая раз в неделю смотрит на библиотеку и:
- объединяет похожее — три скилла про одно и то же схлопываются в один, а их опыт переносится в общий навык;
- отправляет в архив неиспользуемое — если скилл не открывали месяц-полтора;
- никогда не удаляет — всё лежит в
.archive/и восстанавливается.
Почему это не про «деньги»
Тут легко ошибиться и решить, что архивация нужна, чтобы не платить за дорогие промпты. Это не так.Запуск скилла стоит одинаково — и активного, и только что восстановленного из архива. Экономия не в этом. Экономия в том, что постоянный фон от сотен ненужных описаний исчезает, а каталог становится точнее: меньше мусора — реже ошибки выбора.
Считать это нужно так: память у агента ограничена, скиллы — нет. Но у скиллов есть своя, скрытая цена — место в этом самом каталоге, который носится с собой каждый ход. Архив позволяет держать каталог чистым, ничего не теряя.
Мораль
Скиллы — это знания без ограничения по объёму. Архив — это способ эти знания наводить порядок, не рискуя их потерять.Для меня это простая формула: скилл, который нужен — активный. Скилл, который был нужен — в архиве, на всякий случай. А тот, который не нужен уже никогда, я всё равно не удаляю — вдруг завтра пригодится.
