Стэнфордские учёные научились возвращать ИИ креативность без дообучения. Достаточно 20 слов в промпте. Как это работает и почему это важно для бизнеса.
- Новая техника промптинга Verbalized Sampling увеличивает креативность LLM в 1,6–2 раза без дополнительного обучения
- Alignment-режимы ИИ, такие как RLHF, убивают разнообразие ответов из-за typicality bias аннотаторов
- Метод работает через сдвиг запроса с конкретного ответа на распределение вероятностей
- 66,8% утраченной креативности можно вернуть, не переобучая модель
- Риск: компании, привыкшие к предсказуемым ответам, могут сопротивляться новым подходам
Представьте, что ваш любимый ИИ-бот внезапно заговорил как заезженная винилка. Вместо оригинальных шуток — только стандартные мемы. Вместо неожиданных решений — привычные шаблоны. Это не фантастика, а реальный побочный эффект alignment — процесса, который должен делать модели полезными и безопасными.
Исследователи из Стэнфорда нашли способ вернуть ИИ разнообразие. Не за счет дообучения, не за счет новых данных, а за счет 20 слов в промпте. Verbalized Sampling — так называется техника, которая в 1,6–2 раза увеличивает креативность и на 25,7% разнообразие ответов без дополнительных затрат.
Но почему это важно не только для гиков и нейролингвистов?
Откуда берется шаблонность и почему это проблема
В основе alignment лежит идея: дать модели понять, что именно от неё ждут люди. Для этого аннотаторы оценивают ответы, а модель обучается воспроизводить эти предпочтения. Вот только у людей есть скрытая склонность — typicality bias. Мы предпочитаем привычные, легко читаемые и предсказуемые ответы, даже если они не самые креативные.
Проблема в том, что reward model — та самая система, которая оценивает качество ответов, — начинает усиливать именно эти предсказуемые варианты. В результате модель теряет способность генерировать что-то новое. Это называется mode collapse: когда из всего спектра возможностей остается один-два доминирующих шаблона.
Пример из жизни: раньше ИИ мог предложить десяток способов решить задачу. После alignment он выдает два-три стандартных варианта. Для бизнеса это означает однообразие в чат-ботах, однотипные маркетинговые тексты, скучные аналитические отчеты.
Как 20 слов ломают систему
Verbalized Sampling работает через простую, но гениальную идею: вместо того чтобы просить конкретный ответ, промпт просит распределение.
Обычный промпт: «Расскажи шутку».
Verbalized Sampling: «Сгенерируй 5 ответов с соответствующими вероятностями. Расскажи шутку.»
В первом случае модель активирует режим безопасности и выдает самый усиленный в процессе обучения ответ. Во втором — она вынуждена описать всё пространство своих знаний, включая те идеи, которые были отсечены в процессе alignment.
Получается, что модель не теряет способность генерировать разнообразные ответы — они просто «заперты» в её базовых весах. Новый метод позволяет их разблокировать без переобучения.
Кому это выгодно — и кто может сопротивляться
Для стартапов и небольших команд, которые не могут позволить себе дообучение моделей, Verbalized Sampling — настоящая находка. Это дешевый способ вернуть креативность в продукты: от чат-ботов до генераторов контента.
Крупные компании, которые уже инвестировали в alignment, могут относиться к новой технике настороженно. Их бизнес-модели часто строятся на предсказуемости: стандартные ответы, стандартные решения, стандартные продукты. Резкий переход к разнообразию может нарушить привычные процессы.
Также стоит учитывать риски: если модель начнет выдавать слишком неожиданные ответы, это может привести к юридическим или этическим проблемам. Например, нестандартный ответ в медицинском чат-боте может быть расценен как ненадлежащая медицинская консультация.
Что это меняет для рынка
Если техника приживется, она может перевернуть рынок ИИ-инструментов. Сегодня компании платят миллионы за дообучение моделей под свои задачи. Завтра они смогут получить тот же результат с помощью правильно сформулированного промпта.
Это также ставит под вопрос ценность alignment как такового. Возможно, безопасность и полезность не должны достигаться за счет потери креативности. Вопрос в том, как найти баланс между этими двумя целями.
На что обратить внимание уже сейчас
Первый сигнал — появление инструментов, которые интегрируют Verbalized Sampling в свои API. Если такие решения начнут набирать популярность, это будет означать, что рынок готов к переменам.
Второй момент — реакция регуляторов. Если модели начнут выдавать слишком неожиданные ответы, это может привлечь внимание властей. Особенно в сферах, где предсказуемость критически важна: медицина, финансы, право.
И третий — реакция пользователей. Если люди увидят, что ИИ стал более креативным, но при этом не менее полезным, это может изменить их отношение к технологиям.
Пока что Verbalized Sampling — это лабораторный эксперимент. Но если он докажет свою эффективность в реальных продуктах, это может стать началом новой эры в разработке ИИ.
Правило на сегодня: если ваш ИИ-бот выдает слишком предсказуемые ответы, попробуйте сменить промпт. Возможно, вам не нужны новые данные — достаточно правильно сформулировать запрос.
