Илон Маск: почему роботы-гуманоиды — главная опасность для будущего

Владелец Tesla и SpaceX нарисовал публике две контрастные картины будущего. С одной стороны — «эпоха изобилия», где технологическая утопия обеспечит всем «универсальный высокий доход» (не путать с базовым!). С другой — мрачное предостережение о том, что человекоподобные машины станут нашими главными конкурентами. Довольно резкий контраст за один разговор.

Этот диалог состоялся в историческом Блетчли-парке, где когда-то взламывали шифры нацистов, а теперь собираются, чтобы обсудить шифры цифрового разума. Его собеседником был британский премьер Риши Сунак.

Маск заявил, что труд в привычном понимании скоро станет анахронизмом. Работа останется только для тех, кому она нужна «для души», ради личного удовлетворения. ИИ он сравнил с тем самым волшебным джинном из сказки, который исполняет любые желания. «Но, — тут же оговорился Маск, — в сказках с джиннами редко все заканчивается хорошо». И задал, пожалуй, самый философский вопрос вечера: «Как тогда мы будем находить смысл жизни?»

Особое беспокойство у него вызывают именно антропоморфные машины. «Нам стоит серьезно забеспокоиться, — настаивал он. — Если робот сможет преследовать вас повсюду, то в какой-то день он может получить не самое дружелюбное обновление». Его рецепт безопасности по-старомодному прост: у каждого такого робота должен быть физический выключатель. Аварийный рубильник как последняя линия обороны.

Премьер-министр Сунак в ответ заметил, что все мы, конечно, смотрели фильмы, где роботов в итоге отключают. Словно пытаясь свести футуристические кошмары к знакомому сюжету из поп-культуры.

Саммит завершился договоренностью между правительствами и гигантами AI-индустрии о новом режиме тестирования безопасности для самых мощных «пограничных» систем. Похоже, человечество, напуганное собственными творениями, начало искать тот самый «физический выключатель» уже на глобальном уровне.