ИИ в школах: защита от стрельбы или иллюзия безопасности?

И вот это «решение» находит их само. Школьные округа, особенно те, что побогаче или под давлением общественности, все чаще обращают взоры на «волшебный» искусственный интеллект. Давление на администрацию такое, что сфера школьной безопасности превратилась из скромной статьи расходов в многомиллиардную индустрию. А ИИ, конечно, выглядит панацеей: он обещает автоматически и неустанно отслеживать угрозы там, где не хватает денег, кадров и времени.

Когда школа становится крепостью

• «Просто не бывает, — прямо заявляет эксперт по безопасности Дэвид Ридман. — Школа — это не аэропорт и не казарма. Это живой, открытый кампус, центр общественной жизни до позднего вечера. Сложность задач здесь зашкаливает, и одним замком или рамкой детектора проблему не решить».

1. И вот на сцену выходят две главные технологии: всевидящее «наблюдение» и хитрый «анализ шаблонов». ИИ сканирует соцсети, слушает звуки, вглядывается в камеры. Он пытается увидеть то, что усталый охранник или учитель может пропустить.
2. Список его обязанностей звучит как сценарий из фантастического триллера: интерпретировать сигналы металлодетекторов, классифицировать объекты на видео, узнавать звук выстрела, следить за дверями, искать тревожные посты в сети, анализировать записи учеников и, наконец, выискивать чужие лица в толпе.
3. Но есть нюанс, который часто замалчивают продавцы технологий. ИИ блестяще решает только четко поставленные задачи. Найти на картинке пистолет? Да. Распознать начало ментального кризиса у подростка? Это уже совсем другая история.

В идеальном мире система работает так: камера замечает незнакомца с оружием, алгоритм мгновенно ставит метки «чужой» и «пистолет», а дальше автоматика сама блокирует двери, звонит в полицию и рассылает тревожные SMS. Красиво, да? Почти как в кино. Но жизнь, увы, куда менее клиширована.

Цена ошибки: когда алгоритм путает зонт с пистолетом

Чтобы научиться, ИИ показывают миллионы изображений оружия. Он ищет знакомые формы и узоры. Но кто и как решает, где проходит грань? Разработчикам приходится выбирать порог вероятности. И вот тут начинается самое интересное.

• «Процесс этот грязный и неточный, — поясняет Ридман. — Вон тот зонт в чьих-то руках может получить уверенность системы в 90%, а вот пистолет, прикрытый курткой, — всего 60%. И что делать? Тревожить полицию из-за каждого зонта? Или пропустить тот самый один пистолет?» Этот вопрос висит в воздухе каждого школьного коридора, где установлены такие системы.

А теперь добавьте сюда суровую реальность: камеры часто снимают в ужасном качестве. Сумерки, блики, дождь, снег. Получается мутное, зернистоное месиво. И на основе этой картинки алгоритм должен принять решение, от которого зависят жизни? Серьезно? Чиновникам и директорам школ пора бы честно посмотреть в глаза ограничениям этой технологии. Потому что перекладывать ответственность за жизни детей на «темный, зернистый алгоритм» — это ли не самая большая угроза из всех?