Врятувати людську цивілізацію: Google працює над проектом попередження «повстання машин»

Підрозділ Google DeepMind спільно з оксфордським Інститутом майбутнього людства (FoH) представив дослідження, в якому розглядаються способи взяти штучний інтелект під контроль в разі непокори, повідомляють Патріоти України з посиланням на Нескучные новости.

Найкращий спосіб зупинити повстання машин, вважають вчені, - це вчасно натиснути "велику червону кнопку". Дослідники вважають, що ІІ вчиться швидко і скоро зможе перевершити людство. Цю точку прийнято називати сингулярністю. Доказ цієї гіпотези - експеримент, проведений в 2013 році. Ігровий метод визначив, що якщо натиснути паузу під час гри Tetris, то програти просто неможливо. Саме такого свавілля побоюються експерти DeepMind і FoH.

Щоб зупинити можливе повстання машин, вчені розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту. Однак в DeepMind і FoH наголошують, що зробити це буде складно, тому що ІІ буде автономним.

Найкращий спосіб перервати "робокаліпсис" - це запустити в машинах внутрішню аварійну систему контролю, яка змусить ІІ зупинитися. Причому відправити сигнал на цю систему зможе кожен в будь-який момент часу. Вчені порівнюють цю систему з пультом дистанційного керування і "великою червоною кнопкою».