Google DeepMind научил ИИ «самопознанию»: как это улучшает рассуждения

Исследователи продолжают искать способы расширить границы мышления больших языковых моделей. Их последняя идея выглядит изящно: вместо того чтобы навязывать модели жесткий алгоритм, подтолкнуть ее к «самопознанию» — самостоятельному выбору оптимальной стратегии для каждой конкретной задачи.

Цифры говорят сами за себя. В сложных тестах на логику и математику подход улучшил результаты ведущих моделей на целых 32% по сравнению с классическим пошаговым решением. И что особенно приятно для вычислительных ресурсов, для получения ответа требуется в 10–40 раз меньше операций. Элегантно, не правда ли?

Как это работает? Модели предлагают набор элементарных «кирпичиков» мышления — например, «разбей задачу на части» или «примени критическую оценку». Затем ИИ, глядя на конкретную проблему, сам комбинирует эти модули в уникальную схему рассуждений, которую и использует для поиска ответа. Получается своего рода интеллектуальный конструктор.

Самопознающие структуры

Современные языковые модели и так умеют многое: следовать инструкциям, строить логические цепочки, генерировать текст. В основе этих способностей часто лежат методы, подсмотренные у человеческого познания. Самый известный — пошаговое рассуждение, когда задача решается последовательно, от одного логического перехода к другому.

Другой подход предполагает сначала окинуть проблему взглядом сверху, разобрать ее на компоненты и сформулировать общий принцип решения. Оба метода работают, но у них есть общий изъян: они заранее предполагают, КАК именно нужно думать. А если эта предустановка неидеальна для конкретной головоломки?

Исследователи задались именно этим вопросом. Их система позволяет модели заглянуть «внутрь себя» и выбрать наиболее эффективную технику рассуждения, подходящую именно для этой задачи. Не универсальный ключ, а отмычка, которую ИИ кует сам для конкретного замка.

«Самопознание» моделирует естественный человеческий процесс. Сначала ИИ, имея набор простых мыслительных модулей, составляет для себя индивидуальную программу рассуждений. И только затем, следуя этой самонаписанной инструкции, приступает к решению. По сути, это мета-мышление — размышление о том, как лучше всего размышлять.

Улучшение производительности для известных LLM

Чтобы проверить гипотезу, подход протестировали на GPT-4 и PaLM 2, дав им 25 сложных задач на логику и математику. Результат? В 21 случае «самопознание» обогнало все существующие методы. Прирост эффективности достигал той самой трети, а вычислительные затраты резко упали. Это не просто улучшение — это качественный скачок в том, как мы можем «разговаривать» с искусственным интеллектом, чтобы он лучше понимал сложные запросы.

Умение анализировать процесс рассуждений — ключ к успеху ИИ

Хотя система только появилась, ее потенциал огромен. Она не просто решает задачки из тестов — она меняет сам принцип взаимодействия с моделью. Научившись анализировать и оптимизировать собственный мыслительный процесс, ИИ получает ключ к решению задач принципиально новой сложности. Это серьезный шаг на том долгом пути, который кто-то называет движением к искусственному общему интеллекту (AGI).

Ученые показали, что такие самонайденные структуры рассуждений оказываются универсальными для разных моделей и удивительно похожи на то, как думает человек. «Мы смотрим в будущее и хотим лучше понять, как устроено структурированное мышление ИИ, — пишут авторы. — Это откроет потрясающие возможности для сотрудничества человека и машины». Интересно, к чему такое сотрудничество может привести? Возможно, к тому, что машины, наконец, начнут понимать не только наши слова, но и наши мысли.