Искусственный интеллект под угрозой: российские фейки массово проникают в AI-модели.

Российская дезинформационная сеть «Pravda» активно влияет на результаты ответов AI-моделей, используя SEO-манипуляции и массовую публикацию пропагандистских материалов.

Об этом сообщает Telegram-канал Hugs.fund со ссылкой на последний отчет NewsGuard.

Масштабы дезинформации

По данным некоммерческой организации American Sunlight Project, в 2024 году «Pravda» выпустила 3,6 миллиона ложных статей, что позволило ей заполонить поисковые системы и веб-сканеры пророссийской дезинформацией. Используя методы web-скрапинга и SEO-продвижения, эта сеть увеличивает видимость своих материалов в поисковиках и формирует повестку, которую могут воспринимать AI-модели.

Уязвимость AI к манипуляциям

Отчет NewsGuard указывает, что в 33% случаев чат-боты воспроизводили российские фейки, в частности о «секретных биолабораториях США в Украине». Это поднимает вопрос о стойкости AI-моделей к манипуляциям, особенно когда они в значительной степени зависят от открытых веб-данных.

В то же время западные медиа ограничивают доступ AI к своим материалам, чтобы защитить авторские права и коммерческую составляющую. На этом фоне российские пропагандистские ресурсы охотно открывают свои базы данных, заполняя информационное пространство выгодными им нарративами.

Станет ли AI «информационной свалкой»?

Вопрос строгого отбора учебных данных становится все более актуальным. Без тщательной валидации контента есть риск, что чат-боты превратятся в источники дезинформации, что лишь обострит дискуссию о доверии к искусственному интеллекту и его роли в медиапространстве.