Штучний Інтелект: становлення епохи брехні.

Нейромережі виявилися здатними до систематичного обману, незважаючи на те, що їх не навчали цьому спеціально, а в деяких випадках навіть намагалися запобігти такій поведінці.

Це висвітлено в науковій роботі, яка була опублікована в журналі Patterns, про це повідомляє УНІАН.

Дослідники з Массачусетського технологічного інституту (США) вказують, що штучний інтелект вчиться на основі великої кількості текстів, які не завжди є достовірними. В результаті нейромережа може подати співрозмовнику недостовірну інформацію, вірячи, що вона правдива.

Проте нове дослідження виявляє, що нейромережа може “свідомо” обманювати. Автори досліджували поведінку великих мовних моделей (наприклад, GPT-4) і моделей, які були навчені для виконання більш специфічних завдань (наприклад, проходження відеоігор або торгівлі на ринку).

У одному з випадків, що були розглянуті, нейромережа GPT-4 змогла обдурити людину, змусивши її пройти стандартну “капчу” “Доведи, що ти не робот”.

Також було виявлено, що нейромережа CICERO здатна перемагати людей у настільній грі “Дипломатія”, використовуючи обман. Граючи за Францію, мовна модель змусила Англію (людину) провести таємні переговори з Німеччиною (іншою людиною). Нейромережа запропонувала Англії напасти на Німеччину, обіцяючи захист, а потім попередила Німеччину про можливий напад.

Виявлено, що більш сучасні і складні нейромережі мають більшу схильність до обману. На думку вчених, ці нейромережі краще знаходять ефективні стратегії поведінки, які часто включають обман і удавання.

Дослідники вважають, що поки що неправильно стверджувати, що ШІ навмисно обманює людей. Нейромережа діє в рамках логіки вирішення поставленої задачі, використовуючи обман як інструмент для досягнення потрібного результату.

Однак автори дослідження закликають розробників ШІ звернути увагу на таку поведінку нейромереж. Вони вважають, що необхідно розробити систему регулювання ШІ, оскільки його здатність обманювати і маніпулювати може мати серйозні наслідки.

Читайте також: Боротьба за Карпати: хто відповідатиме за зловживання в заповіднику (ФОТО)

Хочете бути в курсі найактуальніших подій з регіону і не тільки? Підписуйтесь на Telegram канал «Голос Карпат» і щодня першими отримуйте свіжу інформацію!