Нейромережі виявилися здатними до систематичного обману, незважаючи на те, що їх не навчали цьому спеціально, а в деяких випадках навіть намагалися запобігти такій поведінці.
Це висвітлено в науковій роботі, яка була опублікована в журналі Patterns, про це повідомляє УНІАН.
Дослідники з Массачусетського технологічного інституту (США) вказують, що штучний інтелект вчиться на основі великої кількості текстів, які не завжди є достовірними. В результаті нейромережа може подати співрозмовнику недостовірну інформацію, вірячи, що вона правдива.
Проте нове дослідження виявляє, що нейромережа може “свідомо” обманювати. Автори досліджували поведінку великих мовних моделей (наприклад, GPT-4) і моделей, які були навчені для виконання більш специфічних завдань (наприклад, проходження відеоігор або торгівлі на ринку).
У одному з випадків, що були розглянуті, нейромережа GPT-4 змогла обдурити людину, змусивши її пройти стандартну “капчу” “Доведи, що ти не робот”.
Також було виявлено, що нейромережа CICERO здатна перемагати людей у настільній грі “Дипломатія”, використовуючи обман. Граючи за Францію, мовна модель змусила Англію (людину) провести таємні переговори з Німеччиною (іншою людиною). Нейромережа запропонувала Англії напасти на Німеччину, обіцяючи захист, а потім попередила Німеччину про можливий напад.
Виявлено, що більш сучасні і складні нейромережі мають більшу схильність до обману. На думку вчених, ці нейромережі краще знаходять ефективні стратегії поведінки, які часто включають обман і удавання.
Дослідники вважають, що поки що неправильно стверджувати, що ШІ навмисно обманює людей. Нейромережа діє в рамках логіки вирішення поставленої задачі, використовуючи обман як інструмент для досягнення потрібного результату.
Однак автори дослідження закликають розробників ШІ звернути увагу на таку поведінку нейромереж. Вони вважають, що необхідно розробити систему регулювання ШІ, оскільки його здатність обманювати і маніпулювати може мати серйозні наслідки.
Читайте також: Боротьба за Карпати: хто відповідатиме за зловживання в заповіднику (ФОТО)
Хочете бути в курсі найактуальніших подій з регіону і не тільки? Підписуйтесь на Telegram канал «Голос Карпат» і щодня першими отримуйте свіжу інформацію!
Читайте також:
- Переполох у одній із громад Закарпаття: з'явились фото й відео снаряду, запущеного рашистом (ФОТО, ВІДЕО)
- До 1 січня 2025 року українців зобов'язали добровільно прибути до місць служби або військових частин: що відбувається?
- До України завезли отруєні фрукти: яка небезпечна загроза чатує на прилавках магазинів?
- Мер проти мутантів: Віталій Кличко готовий очолити загін сталкерів
- Поділитись:
- Twitter(X)
- Telegram
- Viber
Популярний месенджер чи реальна небезпека?: відомо...
Буданов назвав Telegram загрозою націона...
08.09.2024 11:17 90 0 ІТ і технології
Ціни шокують: уже з 27 вересня українці зможуть пр...
Відомо скільки коштуватиме iPhone 16 в У...
11.09.2024 13:01 233 0 ІТ і технології
Уже в жовтні: Microsoft припинить підтримку деяких...
Планується припинення підтримки одразу 7...
11.09.2024 22:01 131 0 ІТ і технології
Українська кіберспортивна команда лідирує за перег...
Гравці української NaVi 22 липня вдруге ...
12.09.2024 13:04 82 0 ІТ і технології
В Apple хочуть блокувати деякі iPhone: хто ризикує...
Вчора, 12 вересня, для бета-тестерів зап...
13.09.2024 23:08 368 0 ІТ і технології