Насмішка кінофантастів: Вчені почали всерйоз побоюватися повстання штучного інтелекту

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих.

Вчені всерйоз побоюються повстання штучного інтелекту. Фото: geektimes.ru.

Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.

«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.

Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.

"В інших регіонах порушень не менше, але...": Кремінь пояснив, чому Київ лідирує за кількістю скарг на російську

субота, 28 червень 2025, 22:12

За перше півріччя 2025 року на адресу мовного уповноваженого надійшло 1431 звернення з різних регіонів України. Переважно це – Київ, далі йдуть Одеська область, Харківська, Дніпропетровська та Донецька. Чому у столиці й далі переважає російська, поясни...

Прибув із Панами: У порту Лондона виявили колосальну партію кокаїну

субота, 28 червень 2025, 21:44

У порту Лондона британські прикордонники вилучили 2,4 тонни кокаїну, вартістю приблизно £96 млн ($130 млн). Про це 28 червня повідомила Independent, передають Патріоти України. Наркотичні речовини були заховані під контейнерами на вантажному судні, яке...