Насмішка кінофантастів: Вчені почали всерйоз побоюватися повстання штучного інтелекту

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих.

Вчені всерйоз побоюються повстання штучного інтелекту. Фото: geektimes.ru.

Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.

«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.

Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.

"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.

Удар по кишені! В Україні переписали ціни на два ключових продукти - що буде далі

п’ятниця, 14 березень 2025, 16:48

У лютому 2025 року в Україні значно подорожчали яйця (+3,5%) та соняшникова олія (+3,4%) через зростання собівартості, сезонні фактори та спекулятивні настрої на ринку. Проте здешевлення соняшнику може в майбутньому стабілізувати ціни на олію, а ось яй...

Умови виходу на пенсію змінили: Українцям пояснили, скільки стажу потрібно мати

п’ятниця, 14 березень 2025, 16:30

В Пенсійному фонді України (ПФУ), де раніше затвердили новий розмір середньої заробітної плати для розрахунку пенсії, нагадали про нові вимоги щодо наявності страхового стажу для виходу на заслужений відпочинок за віком у 2025 році, передають Патріоти ...