Названо терміни появи штучного інтелекту, який становитиме загрозу людству. Розробники створюють концепцію протидії

Розробники ChatGPT формують відділ для контролю над надрозумним ШІ. Як повідомляє TechCrunch, компанія OpenAI оголосила про формування спеціальної команди, яка займатиметься розробкою методів управління та контролю над ШІ, що перевершуватиме за можливостями людський розум. Командою керує один із засновників компанії та її головний науковий співробітник Ілля Суцкевер.

У блозі компанії йдеться, що так званий «надрозумний» ШІ може з'явитися протягом десятиліття, і що він може становити загрозу для людства, якщо не підкорятиметься людським цінностям та інтересам. Тому OpenAI вважає за необхідне шукати способи контролю та обмеження його дій.

Наразі немає ефективних рішень для цього завдання, оскільки існуючі технології налаштування ШІ засновані на навчанні за допомогою зворотного зв'язку від людини. Однак такі методи припускають контроль ШІ людиною, що неможливо з системами розумнішими, ніж люди.

Спеціальна команда OpenAI отримає доступ до 20% обчислювальних потужностей компанії. Цей відділ буде використовувати інший штучний інтелект для оцінки та налаштування надрозумних ШІ, щоб забезпечити їхню безпеку та відповідність бажаним результатам. Такий підхід має бути більш ефективним та швидким, ніж людське втручання.

В OpenAI визнають, що такий метод не гарантує відсутності помилок і вразливостей у створюваних ШІ, і що налаштування надрозуму може зіткнутися з несподіваними проблемами. Однак вони впевнені, що налаштування надрозуму є завданням машинного навчання, в якому компанія має великий досвід.

В OpenAI мають намір ділитися своїми доробками з іншими учасниками ринку ШІ.