Шпион использовал ИИ для создания профиля и обмана пользователей LinkedIn

В последние несколько лет рост подделок фотографий и видео с использованием искусственного интеллекта очень беспокоит многих, и эксперты предупреждают, что эту технологию можно использовать для распространения лжи и дезинформации в интернете. Но фактические доказательства этого происходили до сих пор локально, потому новая информация от Associated Press ставит проблему на новый уровень. AP сообщает, что нашел доказательства того, что некто, кто является потенциальным шпионом, использовал, созданное с помощью ИИ изображение профиля, чтобы обмануть пользователей в LinkedIn. Об этом сообщает Информатор Tech, ссылаясь на The Verge. Поддельный профиль, под именем "Кэти Джонс", связывался с рядом экспертов по политике в Вашингтоне. Среди них были правительственные деятели, такие как помощник сенатора, заместитель помощника госсекретаря, а также Пол Уинфри, экономист, который в настоящее время рассматривается на место в Федеральном резерве. Использование LinkedIn для такого рода шпионажа с низким уровнем риска является обычным явлением, поскольку США и Европа особенно обеспокоены крупномасштабными операциями, начатыми Китаем. Как сказал директор Национального центра контрразведки и безопасности США Уильям Эванина: "Вместо того, чтобы посылать шпионов в какой-то гараж в США для вербовки цели, эффективнее сидеть за компьютером в Шанхае и отправлять обычные приглашения "в друзья" десяткам тысяч пользователей. Поддельный профиль «Кэти Джонс» обнаруженный Associated Press Но что делает случай "Кэти Джонс" необычным, так это использование искусственного интеллекта для создания поддельной картинки профиля учетной записи. Использование системы AI для создания поддельных лиц стало невероятно простым в последние годы, о чем свидетельствует популярность таких сайтов, как ThisPersonDoesNotExist.com. Хотя шпионы, использующие LinkedIn, могут легко использовать стоковые изображения или случайные фотографии из социальных сетей для создания своей учетной записи, использование искусственного интеллекта добавляет профилю реальности. Поскольку каждое изображение уникально, оно не может быть прослежено до источника с обратным поиском изображения для легкого разоблачения. И хотя эти подделки выглядят убедительно с первого взгляда, их можно распознать, если посмотреть внимательно. В случае с "Кэти Джонс" можно заметить, что ее лицо слегка асимметрично с нечетким фоном. Края ее волос и ушей также размыты, и на коже видны странные полосы. Несколько экспертов уверены, что изображение было определенно создано с использованием методов машинного обучения. Подобный инцидент, конечно, не является доказательством того, что подделки ИИ разрушат наше представление об истине и доказательствах. Но это показывает, что эти проблемы не только теоретические, и что эта технология, как и любая другая, постепенно будет осваиваться злоумышленниками.

For a while now people have been worrying about the threat of “deepfakes,” AI-generated personas that are indistinguishable, or almost indistinguishable, from real live humans. I think I may have caught an example of one in the wild:https://t.co/yvZbK8RoQt pic.twitter.com/4FaNqtivEY

— Raphael Satter @ RightsCon (@razhael) 13 июня 2019 г.

Однако, когда дело доходит до шпионов в LinkedIn, большая опасность на самом деле не в искусственном интеллекте, а в простом невнимании. Как сказал Пол Винфри, экономист и потенциальный член правления Федерального резерва: "Я, наверное, худший пользователь Linkedin в истории этой сети… Я буквально принимаю каждый запрос о дружбе, который я получаю". Раннее мы сообщали о том, что компьютерный вирус поверг судебную систему Филадельфии в хаос. Проблемы начались неожиданно: внезапно никто не мог получить доступ к системе для подачи документов. Также как защитить свои данные при использовании открытой сети Wi-Fi.