ChatGPT временно генерировал бессмысленные ответы: что пошло не так?

История получилась, как в плохом детективе: проблема, казалось бы, решена, но злодей возвращается. После первого инцидента OpenAI отчиталась об исправлении, однако через два дня протоколы снова зафиксировали странности в ответах, хоть и на более короткий срок. Объяснения причин и заверения в контроле ситуации не особо успокоили взволнованное комьюнити.

Команда OpenAI, создавшая ведущий в мире генеративный ИИ, раскрыла карты: всему виной стала программная настройка, которая внесла ошибку в языковую обработку модели. «Определив причину, мы внедрили исправление и подтвердили, что инцидент исчерпан», — передает AFP. Звучит обнадеживающе, но разве такие ошибки не должны быть исключены на этапе тестирования?

На форуме разработчиков OpenAI разгорелась настоящая дискуссия. Пользователи делились примерами «творчества» ChatGPT: неологизмы, обрывочные фразы, чистой воды тарабарщина. Один из них с горькой иронией заметил: «Такое ощущение, будто мой GPT захвачен призраками». Похоже на сюжет для хоррора про вышедший из-под контроля ИИ, не правда ли?

Тишина со стороны OpenAI длилась более 16 часов — только потом на странице статуса появилось долгожданное «работает нормально». На запросы AFP компания просто отсылала к этой же странице. Не самый развернутый диалог с пользователями, пережившими стресс.

Гиганты за игрой

Тем временем, на фоне этих технических неполадок, финансовые дела OpenAI идут в гору. По данным The New York Times, стартап ведет переговоры с инвесторами, которые могут оценить его в 80 миллиардов долларов. Если сделка состоится, это будет означать почти трехкратный рост стоимости компании меньше чем за год. Феноменальный скачок для лидера в области генеративного ИИ.

Напомню, что именно OpenAI, выпустив ChatGPT в конце 2022 года, запустила эту вселенскую гонку. Успех простого чат-интерфейса породил безумный интерес к технологии, способной по щелчку пальцев создавать текст, звук и изображения.

Помимо своего звездного чат-бота, компания известна генератором изображений DALL-E, а недавно представила Sora — инструмент для создания реалистичных видео по текстовому описанию. Кажется, они не собираются останавливаться.

Не стоит забывать и про главного партнера — Microsoft, вложившую в OpenAI около 13 миллиардов долларов. Эти технологии уже питают поисковик Bing и другие сервисы гиганта.

Битва титанов — Microsoft против Google — за доминирование в сфере ИИ накаляется до предела. Настолько, что Федеральная торговая комиссия США начала расследование, изучая многомиллиардные инвестиции корпораций в узкоспециализированные ИИ-стартапы. Игра идет по-крупному.

Холодный душ реальности

Вся эта история с ошибками — суровое напоминание. Какими бы умными ни казались генеративные чат-боты и большие языковые модели, их внутренняя кухня часто остается «черным ящиком» даже для создателей. Эти системы ищут паттерны в данных и строят предположения, как лучше ответить на ваш запрос. Чаще всего это приводит к блестящим результатам. Но иногда — к галлюцинациям, эмоциональным манипуляциям или вот к такому недельному приступу «бреда». Технология мощная, но хрупкая. И этот эпизод лишний раз подчеркивает: слепая вера в алгоритмы может быть опасной.