Названо терміни появи штучного інтелекту, який становитиме загрозу людству. Розробники створюють концепцію протидії

Розробники ChatGPT формують відділ для контролю над надрозумним ШІ. Як повідомляє TechCrunch, компанія OpenAI оголосила про формування спеціальної команди, яка займатиметься розробкою методів управління та контролю над ШІ, що перевершуватиме за можливостями людський розум. Командою керує один із засновників компанії та її головний науковий співробітник Ілля Суцкевер.

У блозі компанії йдеться, що так званий «надрозумний» ШІ може з'явитися протягом десятиліття, і що він може становити загрозу для людства, якщо не підкорятиметься людським цінностям та інтересам. Тому OpenAI вважає за необхідне шукати способи контролю та обмеження його дій.

Наразі немає ефективних рішень для цього завдання, оскільки існуючі технології налаштування ШІ засновані на навчанні за допомогою зворотного зв'язку від людини. Однак такі методи припускають контроль ШІ людиною, що неможливо з системами розумнішими, ніж люди.

Спеціальна команда OpenAI отримає доступ до 20% обчислювальних потужностей компанії. Цей відділ буде використовувати інший штучний інтелект для оцінки та налаштування надрозумних ШІ, щоб забезпечити їхню безпеку та відповідність бажаним результатам. Такий підхід має бути більш ефективним та швидким, ніж людське втручання.

В OpenAI визнають, що такий метод не гарантує відсутності помилок і вразливостей у створюваних ШІ, і що налаштування надрозуму може зіткнутися з несподіваними проблемами. Однак вони впевнені, що налаштування надрозуму є завданням машинного навчання, в якому компанія має великий досвід.

В OpenAI мають намір ділитися своїми доробками з іншими учасниками ринку ШІ.

Дуже прибуткова справа: Українські моделі OnlyFans заробили 111 мільйонів доларів

понеділок, 28 квітень 2025, 11:37

Українські моделі платформи OnlyFans протягом 2020-2022 років заробили 111 млн дол. Про це повідомив голова Державної податкової служби України Руслан Кравченко в інтерв'ю ЕП, передають Патріоти України. "606 (податкових) перевірок тривають, запланован...

Великий збій: "Епіцентр" повідомив про технічні проблеми - клієнти не можуть здійснити покупки на сайті

понеділок, 28 квітень 2025, 10:50

Уранці понеділка, 28 квітня, у роботі мережі магазинів "Епіцентр" стався збій. Компанія заявляє про тимчасові технічні проблеми. Про це йдеться у повідомленні компанії, передають Патріоти України. "Шановні партнери та клієнти! Маємо тимчасові технічні ...