Насмішка кінофантастів: Вчені почали всерйоз побоюватися повстання штучного інтелекту

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих.

Вчені всерйоз побоюються повстання штучного інтелекту. Фото: geektimes.ru.

Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.

«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.

Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.

У списку кращих: Три українські університети потрапили до світового рейтингу вишів

субота, 7 червень 2025, 23:40

Три українські виші потрапили до Світового рейтингу університетів (CWUR, The Center for World University Rankings). Всього до переліку увійшли дві тисячі вищих навчальних закладів з усього світу, передають Патріоти України. Його опублікували на сторінц...

Інакше - проблеми: Яку суму можна переказувати на картку без податку та комісії

субота, 7 червень 2025, 23:25

Перекази з картки на картку в Україні давно стали звичними для мільйонів громадян. Люди щодня надсилають гроші родичам, друзям або оплачують послуги. Але не всі знають, які суми можна переказувати без ризику отримати штраф від податкової або платити по...