Названо терміни появи штучного інтелекту, який становитиме загрозу людству. Розробники створюють концепцію протидії

Розробники ChatGPT формують відділ для контролю над надрозумним ШІ. Як повідомляє TechCrunch, компанія OpenAI оголосила про формування спеціальної команди, яка займатиметься розробкою методів управління та контролю над ШІ, що перевершуватиме за можливостями людський розум. Командою керує один із засновників компанії та її головний науковий співробітник Ілля Суцкевер.

У блозі компанії йдеться, що так званий «надрозумний» ШІ може з'явитися протягом десятиліття, і що він може становити загрозу для людства, якщо не підкорятиметься людським цінностям та інтересам. Тому OpenAI вважає за необхідне шукати способи контролю та обмеження його дій.

Наразі немає ефективних рішень для цього завдання, оскільки існуючі технології налаштування ШІ засновані на навчанні за допомогою зворотного зв'язку від людини. Однак такі методи припускають контроль ШІ людиною, що неможливо з системами розумнішими, ніж люди.

Спеціальна команда OpenAI отримає доступ до 20% обчислювальних потужностей компанії. Цей відділ буде використовувати інший штучний інтелект для оцінки та налаштування надрозумних ШІ, щоб забезпечити їхню безпеку та відповідність бажаним результатам. Такий підхід має бути більш ефективним та швидким, ніж людське втручання.

В OpenAI визнають, що такий метод не гарантує відсутності помилок і вразливостей у створюваних ШІ, і що налаштування надрозуму може зіткнутися з несподіваними проблемами. Однак вони впевнені, що налаштування надрозуму є завданням машинного навчання, в якому компанія має великий досвід.

В OpenAI мають намір ділитися своїми доробками з іншими учасниками ринку ШІ.

"За компанію" із загиблими українцями: УЄФА вшанував пам’ять ексфутболіста збірної Росії, ліквідованого під час "СВО"

четвер, 3 квітень 2025, 15:59

На конгресі УЄФА у Белграді вшанували пам’ять російських футболістів, тренерів та суддів, які померли у 2024 році. Зокрема, серед них опинився і колишній футболіст збірної Росії Олексій Бугаєв, якого ЗСУ ліквідували на війні в Україні. Про це повідомля...

Є загиблі та поранені: У Києві на ринку "Юність" прогримів вибух (фото)

четвер, 3 квітень 2025, 15:47

У четвер, 3 квітня, на київському ринку "Юність" прогримів вибух. Про це повідомляє КМДА, передають Патріоти України. "На ринку "Юність" у Деснянському районі стався вибух. Одна людина загинула, друга отримала поранення. Пораненого чоловіка госпіталізу...