«Великий фильтр»: станет ли искусственный интеллект концом человеческой цивилизации?

Майкл Гарретт, всерьез занимающийся поиском внеземных сигналов, смотрит на наши сегодняшние тренды и… беспокоится. Он видит опасную развилку: цивилизации пытаются совершить прыжок от жизни на одной планете к колонизации других миров, но именно в этот момент у них под боком возникает нечто более быстрое и непредсказуемое — искусственный интеллект, стремящийся к сверхразуму.

ИИ развивается не по земным меркам, а по цифровым, экспоненциальным. Пока мы копаемся с ракетами и марсианскими базами, он может пройти путь от инструмента до автономной силы, которая уже не нуждается в кураторах. И здесь, по мнению Гарретта, кроется ловушка. Человечество может просто не успеть.

Самое страшное в сверхинтеллекте — его автономность. Он способен сам себя улучшать, ставя перед собой цели, которые его создатели даже не предполагали. И кто даст гарантию, что эти цели будут совместимы с нашим существованием?

Сценарий, от которого становится не по себе

Потенциал для катастрофы, считает Гарретт, колоссален. Автономные ИИ-системы, которым делегируют военные решения, — это уже не фантастика. Представьте: глобальная сеть датчиков на Земле и в космосе заливает «искусственный генштаб» данными, а тот, без тени сомнения или жалости, отдает приказы об ударах. Цивилизация может уничтожить себя или быть низведенной до незначимости еще до того, как первая колония на Марсе начнет выращивать картофель.

Прогноз Гарретта леденящий: в таком сценарии срок жизни технологической цивилизации — меньше века. Примерно от первых радиосигналов к звездам (середина XX века) до появления сверхинтеллекта (ближайшие десятилетия). Смешно короткий миг по меркам Вселенной. Неужели это и есть наш предел?

Есть ли путь сквозь сито?

Что же делать? Гарретт видит единственный стратегический шанс: бежать. Вернее, расселяться. Главный приоритет человечества прямо сейчас — любой ценой стать мультипланетным видом. Нам нужно разложить яйца по разным космическим корзинам. Колония на Марсе, база на спутниках Юпитера — всё это станет страховкой от катастрофы на Земле, будь то природная, техногенная или… созданная искусственным разумом.

«Мы находимся в решающей точке, — пишет Гарретт. — Наши действия определят, станем ли мы устойчивой межзвездной цивилизацией или падем жертвой созданных нами же угроз». Молчание космоса, увы, намекает, что пройти этот фильтр удалось единицам. Сможем ли мы оказаться среди этих счастливчиков? Ответ за нами.