Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.
«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.
Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.
"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.
Хіти тижня. Пухнасті монстри: Штучний інтелект спробував створити фото котів, але щось пішло не так
Пухнасті монстри: Штучний інтелект спробував створити фото котів, але щось пішло не так
Хіти тижня. Специфічний вершковий із нотками дріжджів: Рак на ранніх стадіях можна визначити за запахом
Специфічний вершковий із нотками дріжджів: Рак на ранніх стадіях можна визначити за запахом
Пісня Ride Like the Wind американського співака та композитора Крістофера Кросса, що стала одним із символів софт-року початку 1980-х, через понад 40 років після випуску знову привернула увагу. Це творіння потрапило до списку 50 найкращих пісень у стил...
Скандальний репер і продюсер Потап, який втік з України 2022 року і якого Верховнв Рада не спромоглася сьогодні позбавити почесного звання, уїдливо відповів на недавню заяву фронтмена рок-гурту "Вопли Видоплясова" (ВВ) Олега Скрипки, який різко вислов...
