Сгенерированные лидеры

Развитие искусственного интеллекта (ИИ) делает всё более острой проблему использования дипфейков – поддельных изображений, видео и аудио, созданных с помощью ИИ на основе реального контента. Беспокойство вызывает использование дипфейков в предвыборных кампаниях, причем подобные случаи наблюдаются по всему миру.

В конце января, за несколько дней до праймериз в Нью-Гемпшире, тысячам местных демократов поступили звонки, в которых их убеждали не ходить на праймериз. «Голосование в этот вторник лишь поможет республиканцам в их стремлении снова выбрать Дональда Трампа. Ваш голос будет иметь значение в ноябре (на выборах. – Прим. ред.), а не в этот вторник», – слышали граждане знакомый голос президента США Джозефа Байдена.

Звонку поверили многие. Хотя звонил не президент США. Эксперты компании, специализирующейся на кибербезопасности, пришли к выводу, что имитация голоса президента США была сделана с помощью ИИ. В офисе генерального прокурора штата звонки назвали незаконной попыткой воспрепятствовать голосованию и начали расследование.

В Индонезии было распространено видео с предвыборным обращением Сухарто, который был президентом страны в течение трех десятилетий и умер в 2008 году. Оно распространялось в разных соцсетях и набрало около 5 млн просмотров.

В этом видео почивший лидер призывал голосовать за Прабово Субианто, кандидата, поддержанного одной из крупнейших в Индонезии партий – «Голкар». В другом предвыборном видео в Индонезии с помощью ИИ сгенерировали детей, чтобы обойти правило, запрещающее привлекать детей к съемке политических роликов.

Эксперты отмечают, что ИИ-инструменты делают возможность дезинформации более дешевой и доступной. «Социальные сети снизили стоимость распространения как информации, так и дезинформации. ИИ же снижает стоимость ее создания. Теперь, если вы иностранный злонамеренный актор или участник небольшой кампании внутри страны, вы можете использовать эти технологии для создания мультимедиаконтента, который будет до некоторой степени привлекательным», – считает управляющий директор Центра исследований соцсетей и политики Нью-Йоркского университета Зив Сандерсон.

Генеральный директор компании – разработчика генеративной модели ChatGPT Сэм Альтман признал, что опасается возможного использования технологий его компании в предвыборной борьбе. Он отметил, что они работают над технологиями противодействия этому.

Уже сегодня наблюдается настороженность общества в отношении ИИ. Например, опрос, проведенный «Аксиос Монинг Консалт», показал: половина американцев ожидает, что дезинформация, распространенная искусственным интеллектом, повлияет на то, кто победит на выборах 2024 года. Еще одна треть опрошенных говорит, что они будут меньше доверять результатам из-за ИИ. То есть рядовой избиратель не готов к появлению элементов ИИ в политических процессах. Вряд ли эта оценка повлияет на сам факт вовлечения ИИ в выборы, скорее на прозрачность и интенсивность этих процессов.

Современные инструменты могут помочь создать поддельное видео как с собственным кандидатом, так и с соперником, и в настоящее время не известно, что опаснее: восхваление своего кандидата или низменный черный пиар с поддельным изображением оппонента. Именно поэтому, ожидая нашествия рекламы, в частности видео, созданных ИИ, техногиганты заранее вводят ограничения на такие рекламные объявления.

В ближайшие месяцы мир увидит многочисленные примеры использования ИИ в предвыборных кампаниях. Способность искусственного интеллекта генерировать фейки поражает уже сегодня. Это позволит оценить, как поток дезинформации повлияет на волеизъявление людей. Главное, чтобы не было слишком поздно помешать этим процессам.

Фото с сайта ru.freepik.com