Цифровое бессмертие: какие угрозы несут аватары ушедших

Представьте: на ваш телефон приходит сообщение от… вашего отца. Точнее, от его цифрового двойника. Возможность поговорить с виртуальной версией ушедшего близкого, например, через гарнитуру VR, звучит как идея для захватывающего и пугающего одновременно фантастического романа. Но это наша реальность.

Общение с таким цифровым бессмертным — это настоящие эмоциональные американские горки. Сначала это утешение, способ вспомнить человека. Но постепенно может произойти подмена: бот, созданный по шаблону из лайков и переписок, начинает вытеснять ваши живые, неидеальные воспоминания.

И это не гипотеза. Индустрия цифровой загробной жизни растёт не по дням, а по часам. Уже существуют сервисы, которые по вашим цифровым следам — соцсетям, письмам, голосовым сообщениям — воссоздают виртуальные реконструкции людей.

От чат-ботов и говорящих аватаров до голограмм — эта технология предлагает странную смесь утешения и разрушения. Она погружает нас в глубоко личные переживания, где стирается грань между прошлым и настоящим, между памятью и симуляцией.

И вместе с этим всплывают серьёзнейшие этические вопросы. Согласие, приватность, психологическое состояние живых — всё это требует осмысления.

Как устроен рынок цифрового бессмертия?

Современные технологии делают виртуальные реконструкции возможными. Узкоспециализированные компании используют данные из соцсетей, электронных писем, голосовых записей, чтобы собрать цифровую личность, способную на диалог. Игроков на этом поле пока немного, но их число растёт.

Сервис HereAfter, например, позволяет при жизни записывать истории и послания, которые родственники смогут услышать после вашего ухода.

Платформа MyWishes даёт возможность отправлять запланированные сообщения после смерти — почти как герой того самого фильма.

Hanson Robotics идёт дальше, создавая не цифровых, а реальных роботизированные бюсты, которые общаются с людьми, используя черты личности умерших. А Project December предоставляет доступ к так называемому «глубинному» ИИ для текстовых бесед с ушедшими.

Генеративные технологии — сердце этой индустрии. Они создают поразительно реалистичных и интерактивных цифровых двойников. Но в этом и главная опасность: высокий реализм может окончательно стереть границу между реальностью и симуляцией. А это чревато серьёзными психологическими травмами.

Тёмная сторона цифровых призраков

Безусловно, такая технология может быть поддержкой в остром переживании утраты. Голос или образ близкого человека иногда действительно помогает пережить боль.

Для кого-то эти цифровые сущности станут терапевтическим инструментом. Но для других эмоциональные последствия могут быть катастрофическими, лишь усугубляя горе, а не облегчая его. Где та грань, после которой здоровое воспоминание превращается в болезненную зависимость от симулякра?

А ещё есть огромные этические проблемы: согласие, автономия и конфиденциальность. Умерший мог просто не давать разрешения на использование своих данных для такого «воскрешения».

Существует и риск злоупотреблений. Компании могут использовать цифровых двойников в коммерческих целях — например, для рекламы. Или изменять их, чтобы те транслировали идеи, которые покойный никогда бы не поддержал. Кто будет контролировать цифровое наследие?

Кто установит правила?

Чтобы справиться с вызовами этой стремительной отрасли, нам срочно нужны новые правовые рамки. Необходимо решить, что такое цифровое наследие: кто им владеет, кто наследует цифровую личность человека, кому принадлежит право на цифровую память.

Европейский GDPR, например, признаёт права на приватность после смерти, но с трудом обеспечивает их соблюдение.

Платформы соцсетей часто самостоятельно контролируют доступ к данным умерших пользователей, не считаясь с волей наследников. Эта практика сводит на нет эффективность любых законов. Нужна полная переоценка правил, основанных на правах человека.

Что же делать?

Исследователи уже предлагают этические принципы. Вот некоторые из них:

• Обязательное информированное и документально подтверждённое согласие человека на создание его цифрового двойника после смерти.
• Возрастные ограничения для защиты уязвимых групп, например, детей.
• Гарантированные меры по защите и безопасности данных.

Опираясь на опыт археологии, одно исследование 2018 года предложило рассматривать цифровые останки как часть личности человека, разработав правила для сохранения достоинства умершего при любом воссоздании его образа.

Критически важен диалог между законодателями, бизнесом и учёными. Разработчики должны закладывать в свои продукты возможность уважительного и окончательного завершения взаимодействия с цифровым двойником.

Только при осторожном и ответственном развитии мы сможем создать будущее, где технологии цифрового бессмертия будут осмысленно и уважительно чтить память о близких, а не эксплуатировать нашу уязвимость.

Пока мы вступаем в этот новый мир, нам крайне важно сохранять баланс между возможностью поддерживать связь и огромными этическими рисками, которые таит в себе эта связь.