ИИ и будущее: как технологии сужают горизонты человечества

Смотрите, что творится: само понятие «интеллект» сегодня незаметно подменяется списком задач, посильных для искусственного разума. Мы зациклились на противостоянии «генеративный ИИ vs. человек». Тексты и картинки, созданные алгоритмами, мы тут же суем в те же экзаменационные рамки, что и результаты человеческого труда. Юридические тесты, вступительные в магистратуру, профессиональные экзамены — везде ИИ просят сперва сымитировать нас, а потом и превзойти. И самое печальное, что эти тесты сами по себе давно оторвались от реальности и плохо измеряют человеческий потенциал. Но мы упорно используем их как арену для битвы.

Говоря о прогрессе ИИ, мы редко задумываемся о его подводной логике, которая требует перевести абсолютно всё в цифры, данные и предсказания. Если сейчас не поставить этому мысленный барьер, эта технократическая логика будет сужать наш кругозор, как шоры. Она начнет душить человеческие порывы и отсекать целые ветки возможного будущего. Вместо движения вперед мы будем ходить по кругу, бесконечно воспроизводя уже известные паттерны, не учась на ошибках, а лишь повторяя их в более эффективной упаковке.

Корни проблемы уходят в прошлый век. В 50-60-е годы, на заре кибернетики, ученые постоянно сравнивали людей и компьютеры. Одни грезили о машинах-«наставниках» и «коллегах», другие видели в них лишь «помощников» или «слуг». Казалось бы, безобидные метафоры, правда?

Как показали в своей работе «Суррогатная человечность» исследователи Неда Атанасоски, Калинди Вора и Рон Иглаш, эти образы не просто описывали технологии — они формировали ценность труда, и человеческого в том числе. Те, кто говорил про «слуг», молчаливо предполагали, что машинам достанутся только грязные, скучные и опасные работы (знаменитая триада DDD: dull, dirty, dangerous). А те, кто мечтал о «наставниках», по сути, представляли себе человека, лишенного всей его эмоциональной и социальной сложности — этакую ходячую логическую машину. Удобно, но до жути наивно.

История искусственного интеллекта: гонка за призраком

Часто историю ИИ подают как прямую дорогу, где набор алгоритмов неизбежно достигает общего человеческого интеллекта (AGI), а затем и превосходит его. Это гонка, финишная ленточка которой — наше же собственное интеллектуальное поражение.

Возьмите те же эксперименты OpenAI по сдаче стандартизированных экзаменов. Они лишь укрепляют позитивистское, соревновательное и бюрократическое видение человеческого ума. А все эти «кейс-интервью» и произведения искусства от ИИ возводят подражание в ранг высшего интеллектуального достижения. Но разве в подражании суть творчества?

Вот в чем загвоздка: чтобы результат генеративного ИИ сочли «истинным» или правдоподобным, он должен быть узнаваем. Он должен укладываться в рамки прошлого опыта и ценностей. Но этот взгляд назад и сглаживание любых острых углов — это смерть для настоящих открытий, которые всегда неожиданны и прорывны. Получается, мы сами загоняем наше будущее в прокрустово ложе прошлого, делая его предсказуемым и скучным.

Такая практика — не просто техническая особенность. Она влияет на то, кого и что мы вообще считаем разумным. Если она укоренится, это перекроит карту общества, политики и власти. Скажем, в «этике ИИ» такие многогранные, живые понятия, как «справедливость» и «равенство», превращаются в сухие математические ограничения для алгоритмов машинного обучения. Вы всерьез верите, что всю глубину этих идей можно упаковать в набор формул?

Вот еще яркий пример: разработка игровых ИИ привела к тому, что саму «игру» стали определять упрощенно — как простое совершение допустимых ходов ради победы. Но любой, кто хоть раз по-настоящему играл с другим человеком в го, шахматы или покер, знает, что там есть азарт, блеф, интуиция, психология, наконец. Для нас игра — это диалог, а не бездушный перебор вариантов.

Существующая парадигма ИИ сужает горизонт нашего собственного интеллекта до задач, решаемых через распознавание паттернов и предсказание трендов. Это может наложить жесткие ограничители на наши самые высокие идеалы: стремление к истине, творческий порыв, полет воображения, саму демократию как сложный процесс. Ученые предупреждают: если мы с этим смиримся, наше человеческое будущее рискует стать убогим и предельно ограниченным. Хотим ли мы такого?