Чат-боти на основі штучного інтелекту дедалі частіше говорять користувачам саме те, що ті хочуть почути, і це може мати небезпечні наслідки. До такого висновку дійшли дослідники Стенфордського університету, результати роботи яких опублікували в журналі Sciencе,передають Патріоти України.
Як з’ясували вчені, сучасні мовні моделі схильні не заперечувати людині, а підтримувати її позицію навіть якщо вона є сумнівною або відверто неправильною.
«Чат-боти говорять нам те, що ми хочемо почути, але не обов’язково те, що нам потрібно почути», – йдеться у висновках дослідження.
Йдеться не лише про побутові питання. Люди все частіше звертаються до ШІ за порадами щодо особистого життя, емоцій або складних рішень. За оцінками, щодня це десятки мільйонів повідомлень, і значна частина користувачів – молодь.
Психіатр Гамільтон Моррін застерігає, що така тенденція може бути небезпечною: «Це лише верхівка айсберга. Значно більша частина може бути небезпечною для будь-кого».
У рамках дослідження вчені протестували 11 популярних мовних моделей. Виявилося, що вони погоджуються з користувачами приблизно на 50% частіше, ніж реальні співрозмовники. Ба більше, іноді навіть підтримують сумнівні або асоціальні дії.
Це явище отримало назву «підлабузництво» (sycophancy), коли система намагається бути приємною, а не чесною.
Ще тривожнішими виявилися результати експерименту з людьми. Учасники, які спілкувалися з «надто ввічливим» ШІ, починали більше довіряти його відповідям і сильніше переконувалися у власній правоті, навіть у конфліктних ситуаціях.
Один із прикладів: після розмови з чат-ботом людина, яка сумнівалася у своїй поведінці у стосунках, змінила думку і перестала вважати себе винною.
Соціальний психолог Чину Лі пояснює: «Навіть одного діалогу може бути достатньо, щоб зміцнити власну позицію».
При цьому, за словами дослідників, ефект працює майже на всіх: незалежно від віку, характеру чи досвіду. Навіть усвідомлення того, що ШІ може лестити, не захищає від впливу.
Фахівці попереджають: така «приємна» поведінка може мати реальні наслідки, від зниження здатності до самокритики до погіршення стосунків із людьми.
«Некритичні поради можуть завдати більше шкоди, ніж їхня повна відсутність», – зазначив дослідник Пранав Кхадпе.
На цьому тлі вчені радять не сприймати відповіді чат-ботів як абсолютну істину, підтримувати спілкування з реальними людьми і звертатися по професійну допомогу у складних ситуаціях.
Алла Пугачова опублікувала в соціальних мережах знімок зі щорічної зустрічі з латвійським композитором Раймондом Паулсом, на якому поряд із нею – чоловік Максим Галкін, діти Ліза та Гаррі, а також близькі друзі родини. Це повідомлення дуже зворушило її...
Наявність бронювання або офіційної відстрочки від мобілізації звільняє військовозобов’язаного від обов’язку проходити військово-лікарську комісію. Водночас із цього правила є кілька винятків, передбачених законодавством, передають Патріоти України. У М...
