Определять фейки всё сложнее
Люди с трудом различают лица реальных людей и синтезированные ИИ StyleGAN2 лица. Люди также считают лица, сгенерированные ИИ, более достоверными.
Люди не могут отличить лицо, созданное искусственным интеллектом — с помощью StyleGAN2 — от настоящего, говорят исследователи, призывая к принятию мер предосторожности для предотвращения «глубоких подделок».
Источник: Ланкастерский университет
Синтезированные искусственным интеллектом текст, аудио, изображения и видео уже используются для так называемой «порно мести», мошенничества и пропаганды.
Доктор Софи Найтингейл из Ланкастерского университета и профессор Хани Фарид из Калифорнийского университета в Беркли провели эксперименты, в которых участников просили отличить синтезированные на современном уровне лица StyleGAN2 от реальных лиц и определить уровень доверия, который они вызывают.
Результаты показали, что синтезированные лица не только очень фотореалистичны, но и практически неотличимы от реальных и даже вызывают больше доверия.
«Наша оценка фотореализма синтезированных ИИ лиц показывает, что синтезирующие механизмы прошли через долину сверхъестественного и способны создавать лица, которые неотличимы — и вызывают больше доверия — чем реальные лица».
Исследователи предупреждают о последствиях неспособности людей идентифицировать изображения, созданные ИИ.
«Возможно, самым пагубным является то, что в цифровом мире, где любое изображение или видео может быть подделано, подлинность любой неудобной или нежелательной записи может быть поставлена под сомнение».
В первом эксперименте 315 участников классифицировали 128 лиц, взятых из набора 800, как настоящие или синтезированные. Их точность составила 48%, что близко к случайному показателю в 50%.
Во втором эксперименте 219 новых участников были обучены и получили обратную связь о том, как классифицировать лица. Они классифицировали 128 лиц, взятых из того же набора из 800 лиц, что и в первом эксперименте, но, несмотря на обучение, их точность повысилась только до 59%.
Исследователи решили выяснить, может ли восприятие достоверности помочь людям идентифицировать искусственные изображения.
«Лица являются богатым источником информации, причем достаточно всего лишь миллисекунды, чтобы сделать неявные выводы об индивидуальных чертах, таких как благонадежность. Нам стало интересно, активируют ли синтетические лица те же суждения о благонадежности. Если нет, то восприятие достоверности может помочь отличить реальные лица от синтетических».
В третьем исследовании 223 участников попросили оценить степень доверия к 128 лицам из того же набора из 800 лиц по шкале от 1 (очень недоверчивые) до 7 (очень доверчивые).
Средняя оценка синтетических лиц была на 7,7% БОЛЕЕ достоверной, чем средняя оценка реальных лиц, что является статистически значимым.
Здесь показано сочетание лиц реальных людей и лиц, созданных искусственным интеллектом.
Наиболее (верхний ряд) и наименее (нижний ряд) точно классифицированные реальные (R) и синтетические (S) лица. Кредит: NVIDIA Corporation
«Самое интересное, что синтетически сгенерированные лица вызывают больше доверия, чем реальные».
- Черные лица были оценены как более заслуживающие доверия, чем лица выходцев из Южной Азии, но в остальном расовые различия не проявились.
- Женщины были оценены как значительно более заслуживающие доверия, чем мужчины.
«Улыбающееся лицо с большей вероятностью будет оценено как заслуживающее доверия, но 65,5% реальных лиц и 58,8% синтетических лиц улыбаются, поэтому выражение лица само по себе не может объяснить, почему синтетические лица оцениваются как более заслуживающие доверия».
Исследователи предполагают, что синтезированные лица могут считаться более заслуживающими доверия, потому что они похожи на обычные лица, которые сами по себе считаются более заслуживающими доверия.
Чтобы защитить общественность от «глубоких подделок», они также предложили рекомендации по созданию и распространению синтезированных изображений.
«Защитные меры могут включать, например, включение надежных водяных знаков в сети синтеза изображений и видео, что обеспечит последующий механизм надежной идентификации».
Поскольку именно демократизация доступа к этой мощной технологии представляет собой наиболее значительную угрозу, мы также призываем пересмотреть часто используемый подход «laissez-faire» к публичному и неограниченному выпуску кода для включения в любое приложение.
«В этот переломный момент, как это сделали другие научные и инженерные области, мы призываем сообщество графики и зрения разработать руководящие принципы для создания и распространения технологий синтетических медиа, включающие этические принципы для исследователей, издателей и распространителей медиа».
