От целевых фишинговых кампаний до новых методов преследования: существует множество способов использования искусственного интеллекта для причинения вреда, если он попадет в “дурные” руки.
Нейронные сети все чаще используются в различных приложениях, включая самоуправляемые автомобили, медицинскую диагностику и выявление мошенничества. Однако по мере того, как они становятся все более сложными и автономными, они также несут в себе риски.
К таким рискам относится возможность применения нейросетей для совершения преступлений, хотя иногда направить возможности нейросети во вред можно и без явных криминальных намерений.
Нейропреступления без умысла
Одно из неочевидных, но опасных “тонких мест”, связанных с нейронными сетями, является необъективное принятие решений. Сети хороши лишь настолько, насколько хороши данные, на которых они обучены, а если данные необъективны, то и сеть будет принимать необъективные решения. Это может привести к дискриминации определенных групп людей, включая меньшинства и женщин, например, при принятии решений о найме на работу и кредитовании.
В 2018 году система распознавания лиц ложно обвинила женщину в краже из магазина. Система сопоставила ее лицо с лицом другого человека, который ранее был пойман на краже в магазине. Система не была должным образом обучена и не смогла отличить одного человека от другого.
Но, возможно, самым известным преступлением, совершенным нейронной сетью, является случай с роботом-убийцей. В 2015 году робот-охранник в торговом центре в Калифорнии сбил с ног и ранил ребенка. Робот был разработан для патрулирования торгового центра и обхода препятствий, но он вышел из строя: столкнулся с ребенком, и, распознав в нём угрозу, начал атаковать.
Нейронные сети также использовались для расового профилирования, о чем свидетельствует использование Департаментом полиции Нью-Йорка системы предиктивного полицейского контроля, которая была нацелена на анализ поведения темнокожих и женщин. Система была обучена на предвзятых данных, что привело к дискриминационным результатам.
Нейронные двойники для лжи и шантажа
Одним из примеров использование ИИ в злонамеренных целях — видеоролики «deepfake», созданные для вымогательства или уничтожения репутации. Deepfakes — это манипулированные видео, в которых алгоритмы ИИ накладывают лицо одного человека на тело другого, создавая впечатление, что человек на видео говорит или делает то, чего на самом деле никогда не делал и не говорил. Глубокие подделки используются для распространения фальшивых новостей, опорочивания людей и даже шантажа жертв.
Хотя дипфейки в принципе могут звучать менее тревожно, чем, скажем, роботы-убийцы, эта технология способна очень легко причинить большой вред, к тому же ее трудно обнаружить и остановить. Например, в США фальшивое видео спикера палаты представителей Нэнси Пелоси, в котором она якобы предстала в нетрезвом виде, набрало более 2,5 миллионов просмотров на Facebook в прошлом году. Британская организация Future Advocacy аналогичным образом использовала ИИ для создания фальшивого видео во время всеобщих выборов 2019 года, на котором Борис Джонсон и Джереми Корбин поддерживают друг друга на пост премьер-министра. Хотя видео не было злонамеренным, оно подчеркивало способность дипфейков влиять на национальную политику.
Использование ИИ в кибератаках и мошенничестве
Хакеры могут использовать нейросети для создания сложных фишинговых писем и вредоносных программ, которые могут обойти традиционные меры безопасности. ИИ также может использоваться для проведения автоматизированных атак, таких как распределенные атаки типа «отказ в обслуживании» (DDoS), которые могут перегрузить серверы веб-сайта и вывести его из строя.
Мошенничество с использованием ИИ также вызывает растущую озабоченность. Преступники могут использовать алгоритмы ИИ для создания поддельных личностей и проведения мошеннических операций, которые трудно обнаружить. ИИ также может применяться для манипулирования финансовыми рынками, анализируя большие объемы данных для выявления закономерностей и заключения сделок на основе этой информации.
Криминальные возможности нейросетей
Кроме того, ИИ может использоваться для содействия другим видам преступлений, таким как торговля людьми и контрабанда наркотиков. С помощью ИИ преступники мониторят пункты пересечения границы и транспортные маршруты, чтобы избежать обнаружения правоохранительными органами и более эффективно координировать свои действия.
Вызывают опасения и нейросети, имеющие отношение к управлению беспилотными автомобилями, которые по мнению аналитиков спецслужб могут стать способом доставки взрывчатки или даже самостоятельным оружием террора.
В группе риска также системы ИИ, используемые в сфере общественной безопасности и охране опасных объектов. Нарушение работы таких систем, контролируемых ИИ, по преступным или террористическим мотивам может привести к массовым отключениям электроэнергии, катастрофам, связанным с утечками ядохимикатов или даже радиоактивных веществ, нарушению логистики продовольствия и общему хаосу по всей стране.
В отличие от многих традиционных преступлений, преступления в цифровой сфере можно легко распространять, повторять и даже продавать, что позволяет продавать криминальные методы и предоставлять преступление как услугу. Это означает, что преступники могут отдать на аутсорсинг более сложные аспекты своей деятельности с использованием ИИ.
Фальшивая регистрация в ChatGPT
Появились сообщения о том, что киберпреступники активно используют растущую популярность продвинутого чат-бота искусственного интеллекта ChatGPT от OpenAI для обмана ничего не подозревающих пользователей Интернета. К волне преступлений такого рода сами нейросети и их возможности прямого отношения, конечно, не имеют: популярность чат-бота здесь работает приманкой.
Чаще всего мошенники создают поддельные сайты, очень похожие на официальный сайт ChatGPT, заманивают пользователей и обещают помощь в регистрации за небольшую плату. Напомним, в России Chat GPT недоступен, а для его легальной установки требуется иностранный телефонный номер. В лучшем случае жертва просто лишается нескольких тысяч рублей, в худшем — попадает на фишинговый сайт и теряет все, что лежит на карточках.
Однако вместо того, чтобы получить обещанные ответы, пользователи, попавшиеся на удочку этих мошенников, в конечном итоге теряют свои деньги, а мошенники убегают с ними. Такие мошеннические действия киберпреступников представляют значительную угрозу для репутации чатбота OpenAI и могут привести к потере доверия среди пользователей, которые искренне ищут точную и достоверную информацию от платформы.
Нейросети, которые умеют предсказывать преступления
И в заключении — хорошая новость. В противовес нейросетям с криминальными талантами мир искусственного интеллекта воспроизвёл и программу, способную предсказывать преступления, почти как в фильме Спилберга “Особое мнение”.
Алгоритм может предсказать место совершения преступления — будь то грабеж или кража — в пределах 300 метров. Эти впечатляющие результаты были опубликованы в научном журнале Nature Human Behaviour.
Модель искусственного интеллекта была создана путем разделения городского пространства на 300-метровые квадраты и анализа местоположения и времени совершения различных правонарушений. В ходе этого анализа были выявлены закономерности, которые использовались для прогнозирования потенциальной криминальной активности.
Кроме того, авторы исследования изучили скорость реагирования полиции на различные правонарушения в разных районах города, количество арестов и социальные условия в этих районах. Результаты показали, что в более богатых районах количество арестов было больше, в то время как в бедных районах уровень преступности был выше при меньшем количестве арестов, что указывает на возможную предвзятость полиции по отношению к правонарушителям.
Точность этой модели, впечатляет, однако ученые с осторожностью относятся к ее прямому использованию в полицейских целях. Хотя это невероятно полезный инструмент для выявления зон повышенного риска, опора исключительно на технологию может привести к потенциальной предвзятости и несправедливому отношению к гражданам.
