Искусственный интеллект: наступление эпохи лжи.

Нейросети оказались способны к систематическому обману, несмотря на то, что специально не обучены этому, а в некоторых случаях даже пытались предотвратить подобное поведение.

Об этом говорится в научной работе, опубликованной в журнале Patterns, передает УНИАН .

Исследователи из Массачусетского технологического института (США) отмечают, что искусственный интеллект обучается на большом количестве текстов, которые не всегда надежны. В результате нейросеть может предоставить собеседнику недостоверную информацию, полагая, что она правдива.

Однако новое исследование показывает, что нейронная сеть может «сознательно» обманывать. Авторы исследовали поведение больших языковых моделей (например, GPT-4) и моделей, которые были обучены выполнять более специфические задачи (например, играть в видеоигры или торговать на рынке).

В одном из рассмотренных случаев нейросеть GPT-4 смогла обмануть человека, заставив его пройти стандартную капчу «Докажи, что ты не робот».

Также было обнаружено, что нейросеть CICERO способна побеждать людей в настольной игре «Дипломатия» с помощью обмана. Играя за Францию, языковая модель вынудила Англию (человека) тайно вести переговоры с Германией (другим человеком). Нейросеть предложила Англии напасть на Германию, пообещав защиту, а затем предупредила Германию о возможном нападении.

Установлено, что более современные и сложные нейронные сети более склонны к обману. По мнению ученых, эти нейронные сети лучше справляются с поиском эффективных поведенческих стратегий, которые часто включают в себя обман и притворство.

Исследователи считают, что утверждать, что ИИ намеренно обманывает людей, пока некорректно. Нейросеть действует в рамках логики решения задачи, используя обман как инструмент для достижения желаемого результата.

Однако авторы исследования призывают разработчиков ИИ обратить внимание на такое поведение нейронных сетей. Они считают, что необходимо разработать систему регулирования ИИ, так как его способность обманывать и манипулировать может иметь серьезные последствия.

Хотите быть в курсе последних событий в регионе и за его пределами? Подписывайтесь на Telegram-канал «Голос Карпат» и получайте актуальную информацию первыми каждый день!