Насмішка кінофантастів: Вчені почали всерйоз побоюватися повстання штучного інтелекту

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих.

Вчені всерйоз побоюються повстання штучного інтелекту. Фото: geektimes.ru.

Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.

«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.

Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.

З 12 жовтня вводять нову перевірку на дорогах. ​Водій і всі пасажири мають вийти з транспортного засобу

п’ятниця, 10 жовтень 2025, 6:07

ЄС запускає систему EES, яка фіксуватиме всі в’їзди на територію Шенгену. Нові правила стосуються і України, зазначають Патріоти України. З цього дня водії та пасажири авто повинні будуть виходити з машини для перевірки та здачі біометричних даних:. ві...

Блекаут дістався вже і столиці: Через масовану російську атаку лівобережний Київ повністю знеструмлено

п’ятниця, 10 жовтень 2025, 5:23

Внаслідок ударів по критичній інфраструктурі, лівий берег столиці залишився без електроенергії. Про це у ніч проти п’ятниці, 10 жовтня, повідомив мер Києва Віталій Кличко, передають Патріоти України. . "Лівий берег столиці без електроенергії. Є й проб...