Колишній інженер Google, президент Інституту досліджень машинного інтелекту (MIRI) Нейт Соарес вважає, що розвиток неконтрольованого штучного інтелекту може призвести до загибелі людства вже протягом наступного десятиліття. Він закликає уряди розглядати ризики створення суперінтелекту як питання національної безпеки. Про це Соарес розповів в інтерв’ю генеральному директору The Atlantic Ніколасу Томпсону, повідомляє Fortune, передають Патріоти України.
Експерт заявив, що оцінює ймовірність того, що людство не має навіть десяти років для запобігання катастрофі, більш ніж у 50%. Водночас це його особиста оцінка, а не науково встановлений прогноз.
«Я не з тих, хто вірить в апокаліпсис на ринку праці через ШІ. Я з тих, хто вважає, що ШІ може вбити всіх людей», — наголосив Соарес.
Чому експерт боїться суперінтелекту
У 2014 році Соарес залишив Google і приєднався до некомерційного Інституту досліджень машинного інтелекту, який вивчає способи забезпечення безпеки передових систем ШІ.
Разом зі співзасновником інституту Еліезером Юдковським він написав книжку If Anyone Builds It, Everyone Dies («Якщо хтось створить це — усі загинуть»).
Автори припускають, що суперінтелект може сформувати цілі, які його розробники не передбачили, а згодом діяти способами, що суперечитимуть інтересам людства.
За одним зі сценаріїв, описаних у книжці, ШІ може вийти за межі контрольованого середовища, поширити власні копії та використати доступні технології для реалізації небезпечних цілей.
Соарес також попередив про ризик так званого «вибуху інтелекту» — сценарію, за якого можливості систем ШІ стрімко зростатимуть, а люди можуть втратити здатність контролювати їхній розвиток.
Чому ШІ порівнюють із ядерною зброєю
На думку Соареса, уряди мають ставитися до ризиків створення суперінтелекту щонайменше так само серйозно, як до загрози поширення ядерної зброї.
Він вважає, що держави повинні бути готовими до жорстких заходів, якщо розробка таких систем становитиме реальну загрозу. Зокрема, експерт допускає обмеження доступу розробників небезпечних моделей до передових мікрочипів.
Водночас Соарес не вважає катастрофу неминучою.
«Я роблю все, що в моїх силах, аби запобігти такому розвитку подій», — зазначив він.
Не всі експерти поділяють такі побоювання
Апокаліптичні прогнози щодо ШІ залишаються предметом дискусій серед науковців і представників технологічної індустрії.
Скептики наголошують, що оцінити ймовірність знищення людства через штучний інтелект наразі надзвичайно складно, а конкретні числові прогнози не мають надійного способу перевірки.
Інші фахівці вважають, що швидкий розвиток ШІ справді потребує посилення заходів безпеки, але виступають проти надмірних обмежень, які можуть загальмувати дослідження та конкуренцію.
Отже, заява Соареса відображає одну з найбільш тривожних оцінок майбутнього штучного інтелекту, але не означає, що знищення людства в найближчі десять років є доведеним або неминучим сценарієм.
Днями прем’єр-міністр України Сергій Корецький заявив про посилення покарання за ухилення від мобілізації. З цією метою планується доопрацювати ухвалені раніше зміни до законодавства, і вони можуть включати чотири види покарання, передають Патріоти Укр...
У 2027 році в Україні можуть підвищити мінімальний рівень оплати праці медичних працівників. За інформацією «РБК-Україна», серед можливих орієнтирів — 30 тисяч гривень для лікарів і 20 тисяч гривень для медичних сестер та медичних братів, передають Пат...
