Може вийти із-під контролю? Підраховано вірогідність знищення людства штучним інтелектом

Існує досить мізерна ймовірність сценарію, за якого розвиток штучного інтелекту зрештою призведе до того, що буде спричинено вимирання людства. Вчені вважають, що вірогідність таких подій сягає не вище 5%. Про це свідчить дослідження, проведене на основі опитування 2700 дослідників штучного інтелекту. Як пише NewScientist, вчені вважають, що існують широкі розбіжності та невизначеність щодо ризиків ШІ для людства, передають Патріоти України.

Проведене дослідження є найбільшим опитування такого роду на сьогоднішній день. Учасникам було запропоновано поділитися думками щодо можливих термінів досягнення майбутніх технологічних етапів ШІ, а також щодо позитивних чи негативних наслідків цих досягнень для суспільства.

Як виявилося, майже 58% опитаних вважають, що існує 5% ймовірність того, що розвиток ШІ призведе до вимирання людства або інших вкрай поганих наслідків.

"Це важливий сигнал про те, що більшість дослідників ШІ не вважають неймовірним, що просунутий ШІ знищить людство", – заявила авторка дослідження з Дослідницького інституту машинного інтелекту в Каліфорнії Катя Грейс.

Разом із тим, Еміль Торрес з Університету Кейс Вестерн Резерв в Огайо застерігає, що опитування експертів щодо ШІ уже засвідчили свою помилковість. Так, він нагадав, що 2012 року було проведено дослідження, яке показало, що в довгостроковій перспективі прогнози експертів зі ШІ були не більш точними, ніж думка звичайних людей.

Автори статті також зауважують, що дослідники ШІ, попри свій статус і розуміння ситуації в галузі, не є експертами в питанні того, як саме розвиватиметься ШІ.

Однак, аналогічне опитування 2022 року засвідчило, що багато дослідників все ж відносно точно передбачили розвиток галузі. Зокрема, щодо того, як розвиватиметься ситуація із дебютом ChatGPT та іншими чат-ботами, заснованими на великих мовних моделях.

Так, дослідники у новому опитуванні заявили, що існує 50% (або й вища) вірогідність того, що системи ШІ успішно вирішать більшість з 39 тестових завдань, включаючи написання нових пісень або кодування з нуля цілого сайту для обробки платежів. Разом із тим, вони все ще матимуть певні проблеми із такими завданнями, як фізичний монтаж електропроводки в новому будинку чи розв'язання давніх математичних загадок.

Дослідники також дають 50% вірогідність, що до 2047 року ШІ зможе перевершити людину у виконанні будь-якого завдання. Також вони вважають, що до 2116 року існує 50% вірогідність того, що людиноподібні роботи стануть повністю автономними.

Разом із тим Торрес припускає, що такі оцінки можуть бути надто оптимістичними і не виключає, що "сфера ШІ переживе ще одну зиму", маючи на увазі вичерпання фінансування та корпоративного інтересу аналогічні до тих, шо спостерігалися в 1970-х і 80-х роках. Дослідники також вважають, що існує 70% вірогідність того, що ШІ використовуватиметься для створення діпфейків, а також маніпулювання громадською думкою, розробки зброї, впровадження авторитарного контролю над населенням і поглиблення економічної нерівності.