IMG-LOGO
image

18 дек. 2023

Просмотров: 58

Как ИИ FunSearch нашёл новое решение старой математической задачи

В Google DeepMind случилось нечто интересное: большая языковая модель впервые в мире решила сложную, «неподступную» математическую задачу. Разработанный учёными инструмент FunSearch нашёл для знаменитой «шапочной проблемы» алгоритм эффективнее, чем могли придумать люди. И самое главное – он объясняет своё решение на языке, который мы понимаем.
Похоже, математики и машины нашли общий язык – и это Python. Интригующе, не правда ли?

Это действительно прорывной момент. Исследователи из Google DeepMind впервые применили большую языковую модель не для болтовни, а для настоящей математики. Их творение, FunSearch, построено на основе Codey – модели, специально обученной писать код. И эта связка смогла построить алгоритм для оценки «шапочного множества», который превзошёл все предыдущие, созданные вручную.

У больших языковых моделей, честно говоря, не самая безупречная репутация – они любят «сочинять» факты. FunSearch же – это попытка обуздать этот творческий хаос. Суть в том, чтобы заставить модель не просто генерировать ответы, а последовательно их оптимизировать, отбрасывая чепуху и оставляя лишь рабочие гипотезы. Получается своеобразный «интеллектуальный дарвинизм».

Название FunSearch происходит от «function search» – поиск функций. И он продолжает серию математических инструментов от DeepMind. Были AlphaTensor для ускорения умножения матриц и AlphaDev для оптимизации базовых алгоритмов. Но те системы работали по принципу игрового ИИ, рассматривая задачу как шахматную партию. Их возможности, как отмечают сами разработчики, были узконаправленными. FunSearch – это шаг к универсальности.

Как рождаются идеи в союзе человека и машины

FunSearch – это не одинокий гений-ИИ, а целый конвейер. В его основе – языковая модель Codey, которая генерирует код на Python. Но её работу постоянно проверяет и оценивает второй алгоритм. Они работают в цикле: Codey предлагает идеи, лучшие из них (даже если они не идеальны) отбираются, возвращаются модели, и та пытается их улучшить.

Представьте этот процесс как ускоренную эволюцию идей. Многие предложения будут бессмыслицей, некоторые – просто любопытными, но какие-то окажутся настоящими жемчужинами. Эти «жемчужины» и становятся основой для следующего витка. Критерий отбора – элегантность и краткость: если две программы дают схожий результат, побеждает та, что короче и изящнее (так называемая колмогоровская сложность).

После миллионов строк сгенерированного кода и десятков таких итераций (на это ушло несколько дней вычислений) FunSearch выдала рабочий код, который дал новое, неизвестное ранее решение для нашей задачи.

Как ИИ FunSearch нашёл новое решение старой математической задачи

Что это за «шапочная проблема», которая не даёт спать математикам?

Давайте на пальцах. Представьте листок в клетку и квадрат 3x3. Какое максимальное число точек можно в нём расставить так, чтобы никакие три не лежали на одной прямой? Ответ – четыре, его несложно найти. Но «шапочная проблема» – это поиск такого максимального множества точек (его и называют «шапочным») для куба любой размерности. Для трёхмерного куба 3x3x3 ответ уже неочевиден – 9 точек. С ростом размерности задача становится чудовищно сложной.

Как ИИ FunSearch нашёл новое решение старой математической задачи

Математик Джордан Элленберг в 2019 году построил алгоритм, который находит точный ответ, но его сложность экспоненциально растёт с увеличением размерности. Для больших N задача становится практически нерешаемой. Поэтому учёные ищут оценочные алгоритмы, которые быстро, пусть и приближённо, находят верхнюю границу количества точек. Именно этим и занялся FunSearch.

Почему эта, казалось бы, абстрактная головоломка так важна? Оказывается, она напрямую связана с оптимизацией умножения матриц – той самой задачей, которую решал AlphaTensor. Количество точек в «шапочном множестве» показывает предел, за который нельзя перейти в оптимизации матричных вычислений. Так что открытие FunSearch может сэкономить колоссальные вычислительные ресурсы.

И этот оценочный алгоритм оказался эффективнее всех, созданных людьми. Сам Теренс Тао, обладатель Филдсовской медали, называющий эту проблему своей любимой нерешённой задачей, признаёт значение работы.

Почему это больше, чем просто «чёрный ящик»

Главное преимущество FunSearch перед предшественниками – универсальность. Систему уже опробовали на другой классической задаче информатики – упаковки в контейнер. И она снова нашла решение быстрее человеческого. Это важно для логистики, управления серверами и тысячи других практических областей.

Как ИИ FunSearch нашёл новое решение старой математической задачи

Но самое ценное – это объяснимость. Многие мощные ИИ выдают результат, оставляя нас в недоумении: «Как он это сделал?». FunSearch же выдаёт программу на Python. Это не магическая цифра, а последовательность инструкций. Человек может её прочитать, понять логику и, возможно, почерпнуть из неё новые идеи. В этом и есть суть научного прогресса – в обмене пониманием, а не просто результатами.

Как ИИ FunSearch нашёл новое решение старой математической задачи

Разработчики справедливо отмечают: сила FunSearch как научного инструмента в том, что он выдаёт не только ответ, но и путь к нему. Это мост между интуицией машины и человеческим разумом. Теренс Тао считает, что такой подход указывает один из возможных путей интеграции больших моделей в реальные исследования – там, где они дополняют наши способности, а не заменяют их загадочным «волшебством». Что ж, будущее сотрудничества человека и машины в науке, похоже, начинается с открытого исходного кода.