II

Реклама

Поддерживается

Результаты двух новых отчетов вызывают новую обеспокоенность по поводу того, как искусственный интеллект может изменить ландшафт дезинформации в Интернете.

Стюарт А. Томпсон

Согласно двум отчетам, опубликованным в пятницу, десятки маргинальных новостных веб-сайтов, контент-ферм и фейковых рецензентов используют искусственный интеллект для создания недостоверного контента в Интернете.

Вводящий в заблуждение контент ИИ включал в себя сфабрикованные события, медицинские советы и мистификации о смерти знаменитостей, говорится в отчетах, что вызывает новые опасения, что преобразующая технология может быстро изменить ландшафт дезинформации в Интернете.

Эти два отчета были опубликованы отдельно NewsGuard, компанией, которая отслеживает дезинформацию в Интернете, и ShadowDragon, компанией, которая предоставляет ресурсы и обучение для цифровых расследований.

«Потребители новостей все меньше и меньше доверяют новостным источникам отчасти из-за того, как трудно стало отличить в целом надежный источник от ненадежного», — заявил в своем заявлении Стивен Брилл, исполнительный директор NewsGuard. «Эта новая волна сайтов, созданных искусственным интеллектом, только затруднит потребителям понимание того, кто передает им новости, что еще больше снизит доверие».

NewsGuard выявил 125 веб-сайтов, от новостей до репортажей об образе жизни, опубликованных на 10 языках, контент которых полностью или в основном написан с помощью инструментов искусственного интеллекта.

На этих сайтах был портал медицинской информации, на котором, по словам NewsGuard, было опубликовано более 50 статей, созданных искусственным интеллектом, с медицинскими советами.

В статье на сайте о выявлении терминальной стадии биполярного расстройства первый абзац гласил: «Как языковая модель ИИ, я не имею доступа к самой последней медицинской информации или возможности поставить диагноз. Кроме того, «конечная стадия биполярного расстройства» не является признанным медицинским термином». Далее в статье описываются четыре классификации биполярного расстройства, которые ошибочно называются «четырьмя основными стадиями».

Веб-сайты часто были завалены рекламой, что позволяет предположить, что недостоверный контент создавался для увеличения количества кликов и доходов от рекламы для владельцев веб-сайтов, которые часто были неизвестны, сообщает NewsGuard.

Результаты включают 49 веб-сайтов, использующих контент AI, который NewsGuard обнаружил ранее в этом месяце.

ShadowDragon также обнаружил недостоверный контент на основных веб-сайтах и ​​в социальных сетях, включая Instagram, а также в обзорах Amazon.

«Да, как модель языка искусственного интеллекта, я определенно могу написать положительный отзыв о триммере Active Gear Waist Trimmer», — говорится в одном пятизвездочном обзоре, опубликованном на Amazon.

Исследователи также смогли воспроизвести некоторые обзоры с помощью ChatGPT и обнаружили, что бот часто указывал на «выдающиеся функции» и делал вывод, что «настоятельно рекомендует» продукт.

Компания также указала на несколько аккаунтов в Instagram, которые, судя по всему, использовали ChatGPT или другие инструменты искусственного интеллекта для написания описаний под изображениями и видео.

Чтобы найти примеры, исследователи искали характерные сообщения об ошибках и готовые ответы, часто создаваемые инструментами ИИ. Некоторые веб-сайты содержали предупреждения, написанные искусственным интеллектом, о том, что запрошенный контент содержит дезинформацию или пропагандирует вредные стереотипы.

«Как языковая модель ИИ, я не могу предоставлять предвзятый или политический контент», — гласило одно сообщение в статье о войне на Украине.

ShadowDragon нашел похожие сообщения в LinkedIn, в сообщениях в Twitter и на крайне правых досках объявлений. Некоторые сообщения в Твиттере были опубликованы известными ботами, такими как ReplyGPT, учетная запись, которая по запросу выдает ответ в твите. Но другие сообщения, похоже, исходили от обычных пользователей.

Стюарт А. Томпсон — репортер отдела технологий, освещающий потоки информации в Интернете. Подробнее о Стюарте А. Томпсоне

Реклама