Розробники ChatGPT формують відділ для контролю над надрозумним ШІ. Як повідомляє TechCrunch, компанія OpenAI оголосила про формування спеціальної команди, яка займатиметься розробкою методів управління та контролю над ШІ, що перевершуватиме за можливостями людський розум. Командою керує один із засновників компанії та її головний науковий співробітник Ілля Суцкевер.
У блозі компанії йдеться, що так званий «надрозумний» ШІ може з'явитися протягом десятиліття, і що він може становити загрозу для людства, якщо не підкорятиметься людським цінностям та інтересам. Тому OpenAI вважає за необхідне шукати способи контролю та обмеження його дій.
Наразі немає ефективних рішень для цього завдання, оскільки існуючі технології налаштування ШІ засновані на навчанні за допомогою зворотного зв'язку від людини. Однак такі методи припускають контроль ШІ людиною, що неможливо з системами розумнішими, ніж люди.
Спеціальна команда OpenAI отримає доступ до 20% обчислювальних потужностей компанії. Цей відділ буде використовувати інший штучний інтелект для оцінки та налаштування надрозумних ШІ, щоб забезпечити їхню безпеку та відповідність бажаним результатам. Такий підхід має бути більш ефективним та швидким, ніж людське втручання.
В OpenAI визнають, що такий метод не гарантує відсутності помилок і вразливостей у створюваних ШІ, і що налаштування надрозуму може зіткнутися з несподіваними проблемами. Однак вони впевнені, що налаштування надрозуму є завданням машинного навчання, в якому компанія має великий досвід.
В OpenAI мають намір ділитися своїми доробками з іншими учасниками ринку ШІ.
В Україні багатодітні батьки можуть втратити право на відстрочку від мобілізації, якщо не виконують передбачених законом умов. Зокрема, перешкодою може стати борг зі сплати аліментів, сукупний розмір якого перевищує суму платежів за три місяці, передаю...
Дослідники з Національного університету Сінгапуру продемонстрували перший у світі сенсорний екран, інтегрований безпосередньо в одяг, зазначають Патріоти України. Основою технології стало спеціальне волокно, яке одночасно виконує функцію пікселя та сен...
