Исследователи из Массачусетского технологического института (MIT) разработали новую систему, которая позволяет большим языковым моделям не просто использовать данные, а активно адаптироваться и учиться на их основе в процессе работы. Технология получила название SEAL, что расшифровывается как «самоадаптирующиеся языковые модели». В отличие от традиционных подходов, требующих предварительной настройки на больших датасетах, SEAL дает возможность модели самостоятельно обновлять свою внутреннюю структуру, фактически усваивая новые знания.
В основе работы SEAL лежит метод обучения с подкреплением. Модель учится создавать так называемые «саморедактирования» — текстовые инструкции, которые направляют ее при изменении собственных внутренних параметров. Этот процесс можно сравнить с написанием собственного учебника: вместо простого чтения данных модель преобразует информацию в формат, оптимизированный для эффективного запоминания. Обучение проходит в два этапа: сначала модель вносит небольшое изменение, а затем система проверяет, улучшилась ли производительность. Если обновление оказалось полезным, оно сохраняется.
Архитектуру SEAL можно условно разделить на две части. Один модуль искусственного интеллекта выступает в роли «учителя», генерируя инструкции для обучения, а другой — в роли «ученика», который обновляется на основе этих указаний. Такая конфигурация может оказаться особенно востребованной в корпоративной среде, где требуются узкоспециализированные рабочие процессы для обучения ИИ.
Эффективность системы была проверена на практике в двух сценариях: интеграция новых знаний и обучение на ограниченном количестве примеров. В первом случае модель должна была запомнить факты из текста и ответить на вопросы, не обращаясь к исходному материалу. SEAL повысила точность ответов до 47%, что превзошло результаты, показанные более мощной моделью GPT-4.1 в схожих условиях. Во втором тесте, решая сложные визуальные головоломки, модель с помощью SEAL достигла точности в 72,5%, что оказалось в четыре раза выше по сравнению с другими методами.
По мнению разработчиков, в ближайшем будущем нехватка качественных данных для обучения станет одним из главных препятствий для развития искусственного интеллекта. Технология SEAL предлагает частичное решение этой проблемы, позволяя моделям самостоятельно генерировать полезные обучающие сигналы. К примеру, ИИ-система сможет прочитать научную статью и на ее основе создать сотни пояснений и выводов, чтобы глубже понять предмет.
Вместе с тем у метода есть и ограничения. Частые обновления могут привести к так называемому «катастрофическому забыванию» — потере ранее усвоенных знаний. Для решения этой проблемы исследователи предлагают гибридный подход: интегрировать основные знания с помощью SEAL, а фактическую или часто меняющуюся информацию хранить во внешней памяти. Существуют и практические трудности: редактирование параметров модели в реальном времени пока невозможно, поэтому предлагается использовать отложенные циклы обучения, когда модель собирает данные в течение дня и обновляется через определенные промежутки времени.
