Преступления с помощью искусственного интеллекта – уже реальны.
Специалист по социальной инженерии взломал свой банковский счет с помощью ИИ-подмены голоса. Банки предлагают использовать голосовой биометрический идентификатор как безопасный способ входа в учетную запись. На самом деле такие системы можно легко обмануть, если использовать бесплатный ИИ-синтезатор голоса ElevenLabs. Энтузиаст обучил нейросеть на своем голосе и заранее сгенерировал несколько аудиодорожек, а затем воспроизвел их для входа в аккаунт. Реальному злоумышленнику достаточно знать вашу дату рождения и короткую запись вашей речи, чтобы клонировать голос и узнать, например, баланс вашего банковского счета.
ChatGPT, который появился всего три месяца назад, уже вовсю используют мошенники. В интернете появилось больше тысячи сайтов, оформленных как чат-бот от Open AI. Часть из них просит данные банковской карты, часть — просит установить «официальное десктоп-приложение». Устанавливаете вы, конечно, не приложение, а фишинговую программу, которая крадёт ваши данные. Есть такие подделки и в Google Play.
А научно-фантастический журнал Clarkesworld Magazine больше не принимает материалы от читателей — они массово присылают истории, написанные ChatGPT. В издание приходит рекордное количество контента от ИИ. По правилам журнала, все предложенные тексты должны быть написаны человеком. Год назад количество заблокированных авторов по этой причине составляло всего 20 человек, а в феврале 2023 года достигло 500. ИИ пишет скучные, однообразные, хотя и технически правильные художественные произведения, поэтому это серьезная проблема для создателей журнала. Как бороться с наплывом ИИ-текстов — непонятно.
Источник: «Не баг, а фича» (t.me/bugnotfeature)
