Анонимности в сети больше нет: ИИ находит реальных людей за минуты
Искусственный интеллект теперь может раскрывать личности людей, которые скрываются под псевдонимами в интернете, за считанные минуты и всего за несколько долларов, пишет Devby.io.
К такому выводу пришли исследователи из Швейцарской высшей технической школы Цюриха и Anthropic. Ученые показали, что современные ИИ-модели способны автоматически сопоставлять анонимные профили с реальными людьми, используя только тексты сообщений без структурированных данных, вроде таблиц или рейтингов.
Если раньше для таких расследований требовались часы ручной работы, то теперь ИИ делает это в полностью автоматическом режиме.
В одном из экспериментов исследователи взяли 338 пользователей портала Hacker News, которые ранее сами давали ссылки на свои профили в LinkedIn. Из описаний удалили имена и прямые ссылки. После этого ИИ-агенту дали только обезличенные тексты публикаций и поручили найти реальную личность владельца аккаунта. Модель правильно сопоставила 226 профилей из 338 при точности около 90%. Иными словами, подавляющее большинство попыток выявить профиль было правильным.
Система работает поэтапно: языковая модель анализирует сообщения и извлекает из них признаки — профессию, место жительства, интересы и другие детали. На основе этих данных формируется профиль, который автоматически сопоставляется с возможными кандидатами в открытых источниках. Затем модель проверяет наиболее вероятные совпадения и оценивает уровень уверенности в результате.
Отдельно исследователи проверили метод на публичных интервью ученых об использовании ИИ в их работе. Несмотря на частичную редактуру текстов, агент смог определить личности как минимум 9 из 33 участников с высокой точностью.
Исследователи обращают внимание, что проблема не в том, что ИИ «умнее» человека-расследователя. Модель использует те же косвенные признаки: упоминания про университет, проект, город, хобби. Разница в скорости и цене, так как то, что раньше требовало значительных усилий и поэтому использовалось редко, теперь можно масштабировать.
Авторы предупреждают, что это меняет базовые представления об анонимности в интернете. По их словам, «практическая скрытность», на которую рассчитывали пользователи — убеждение, что их теоретически можно раскрыть, но никто не станет этим заниматься — больше не работает. Возможные последствия применения такого инструмента, показывают исследователи, чрезвычайно широки: от преследования активистов и журналистов до массового таргетированного мошенничества.
Комментарии