Дослідники з Оксфордського університету і лабораторії DeepMind почали роботу над системою аварійного вимкнення алгоритмів, які здатні до самонавчання. Деталі опубліковані на сайті Інституту вивчення машинного інтелекту, повідомляють Патріоти України з посиланням на Нескучные новости.
«Якщо такий агент (штучний інтелект) працює в режимі реального часу під наглядом людини, то може виникнути ситуація, при якій оператор буде змушений натиснути на велику червону кнопку, щоб зупинити агента від виконання дій, небезпечних для самого агента або його оточення", - пояснюють вчені.
Автори розповідають, що алгоритми, які здатні до самонавчання, можуть з часом навчитися знаходити механізм ігнорування штатної стоп-команди оператора.
"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і оточуючих, а також запобігти діям, які можуть призвести до незворотних наслідків.
Хіти тижня. Пухнасті монстри: Штучний інтелект спробував створити фото котів, але щось пішло не так
Пухнасті монстри: Штучний інтелект спробував створити фото котів, але щось пішло не так
Хіти тижня. Специфічний вершковий із нотками дріжджів: Рак на ранніх стадіях можна визначити за запахом
Специфічний вершковий із нотками дріжджів: Рак на ранніх стадіях можна визначити за запахом
Джерело забруднення пальмовою олією акваторії моря наразі не встановлено. Однак судячи по тому, що забруднення фіксують у південно-західному та західному узбережжях півострова, олія могла пролитися з пошкоджених суден, що йшли у порти великої Одеси. На...
Найближчим часом українським водіям не варто розраховувати на подальше суттєве здешевлення бензину, дизеля чи автогазу. Водночас різкого стрибка цін також не прогнозують. Найімовірнішим сценарієм називають стабілізацію вартості пального, передають Патр...
