Споры об искусственном интеллекте и тотальной слежке долго казались разговором о гипотетической угрозе где-то впереди. Эксперты в области ИИ, правозащитники и даже некоторые инсайдеры индустрии бьют тревогу: эта угроза уже не будущее. Инфраструктура для массового наблюдения на основе ИИ действует здесь и сейчас, и большинство людей даже не подозревает, насколько глубоко она проникла в их повседневность.
Недавнее расследование TechRadar вновь привлекло внимание к предупреждениям специалистов: общественные дебаты об слежке опасно отстают от технологической реальности. Распознавание лиц, алгоритмы «прогнозной» полицейской работы, инструменты мониторинга соцсетей и биометрические базы данных уже давно работают в полную силу — не в далёком авторитарном государстве, а в демократических странах, гордящихся защитой гражданских свобод.
Возьмём только распознавание лиц. Компания Clearview AI, создавшая базу из миллиардов фотографий из соцсетей, использовалась сотнями полицейских управлений в США. После судов и ограничений она не исчезла, а адаптировалась, сохранив госконтракты. А ведь это лишь одна компания на переполненном рынке.
Новое поколение ИИ изменило масштаб и возможности синтеза. Раньше инструменты слежки работали разрозненно: камера здесь, считыватель номеров там. Современные системы могут в реальном времени объединять эти потоки данных, создавая исчерпывающие досье на людей: перемещения, связи, покупки, онлайн-активность, даже эмоциональное состояние по биометрическим сигналам. Именно эта интеграция превращает разрозненные инструменты в качественно новую систему массовой слежки, работающую непрерывно и автоматически.
Архитектура контроля строится на виду — не только силами таинственных агентств, но и коммерческим сектором, который продаёт эти инструменты. Компании вроде Palantir Technologies построили весь бизнес на интеграции данных для спецслужб и полиции. Их платформы специализируются на слиянии информации из разных источников — том самом, что делает массовую слежку возможной.
Попытки регулирования пока отстают. В ЕС «Акт об ИИ», вступивший в силу в 2024 году, запрещает некоторые виды биометрической слежки в реальном времени, но с широкими исключениями. В США картина фрагментирована: нет федерального закона о распознавании лиц, лишь точечные городские запреты. Это заплатки на системе, лишённой целостной защиты.
Где в этой системе обычный человек? В основном в неведении. Опросы показывают, что люди сильно недооценивают степень слежки за ними как со стороны государства, так и компаний. Асимметрия огромна: те, кто следит, прекрасно понимают, что собирают, а у тех, за кем следят, почти нет понимания процесса.
Не все видят в этом чистый антиутопический кошмар. В правоохранительных органах указывают, что инструменты ИИ помогли раскрыть старые дела, найти пропавших детей и предотвратить теракты. Однако эксперты предупреждают не о том, что у технологий нет законных применений, а о том, что их внедрение далеко опередило правовые, этические и институциональные рамки, призванные предотвратить злоупотребления.
Дебаты о том, может ли массовая слежка с ИИ случиться, окончены. Система уже работает. Вопрос теперь в том, успеют ли демократические общества наложить на неё содержательные ограничения, или мы так и будем обсуждать гипотетические риски, пока камеры продолжают наблюдать.
