Нейросети и роботы недели: прорывы в ИИ и забывании

Давайте начистоту: современные нейросети стали монстрами. Представьте себе 405 миллиардов параметров — именно столько их в Llama 3.1. Это в четыре раза больше, чем нейронов в нашем с вами мозге! Но плата за этот разум — чудовищные счета за электричество. Звучит знакомо, правда? Словно мы пытаемся воссоздать интеллект, построив мегаполис из лампочек накаливания. Ученые, конечно, с этим мириться не стали и пошли с самого начала: решили пересмотреть дизайн самого «кирпичика» — искусственного нейрона.

История иногда движется по спирали. В начале 1960-х два гениальных русских математика, Колмогоров и Арнольд, поставили жирную точку в проблеме, которую Давид Гильберт сформулировал еще в 1900-м. А спустя еще 60 лет их теорема неожиданно дала ключ к новой, куда более эффективной архитектуре нейросетей. Математика не терпит суеты: она зреет, как вино, а потом меняет мир одним элегантным уравнением.

Вы никогда не задумывались, почему у нас GPT-3, GPT-4, а не бесконечно «прокачанная» GPT-2? Почему нельзя просто подкармливать модель новыми данными? Оказывается, есть предел, после которого она не умнеет, а глупеет — забивает «память» мусором. Странно, да? Мы же с вами не выпускаем «Человек 2.0» каждые пару лет, а просто учимся новому, отбрасывая ненужное. Так вот, похоже, исследователям удалось привить ИИ эту суперспособность — искусственное забывание. Без него двигаться дальше было просто невозможно.

Рынок гуманоидных роботов напоминает мне стартовую прямую гонки: Тесла, Figure, Boston Dynamics... все ждут сигнала. Но китайская Unitree Robotics, похоже, не любит ждать. Их новый робот G1 уже здесь — и он не просто ходит. Он болтает, танцует и нацелен на помощь по хозяйству. Настоящий домовенок из будущего, только сделанный из металла и пластика.

А теперь о мрачном. Вы слышали про «коллапс модели»? Это жутковатый сценарий, где ИИ начинает деградировать, потому что учится на данных, которые сам же и создал. Представьте, что вы вечно пересказываете самому себе одну и ту же историю, с каждым разом теряя детали. Чем это грозит? Тем, что развитие может упереться в стену, созданную из собственных цифровых отражений.

И напоследок — элегантное решение. Чтобы дать команду роботу, нам обычно нужен пульт или смартфон. Скучно! А что, если управлять им можно просто прикоснувшись к его корпусу? Оказывается, для этого не нужна супердорогая искусственная кожа. Достаточно умной системы, которая чувствует вибрации и нажатия. Это маленький, но важный шаг к роботам, с которыми можно взаимодействовать так же естественно, как с собакой или кошкой. Ну, или почти.