Сема Альтмана зупинили за крок до планетарної катастрофи? Розробники ChatGPT попередили про потужне відкриття у сфері ШІ, яке може загрожувати людству, - Reuters

Напередодні чотириденного вигнання генерального директора OpenAI Сема Альтмана кілька дослідників OpenAI (лабораторії досліджень штучного інтелекту) написали листа до ради директорів, у якому попередили про потужне відкриття у сфері штучного інтелекту, яке може загрожувати людству.

Це повідомлення стало одним із факторів, які призвели до звільнення Альтмана. Про це пише Reuters із посиланням на два джерела, знайомі з питанням.

В OpenAI відмовилися відповідати на запит журналістів, однак у внутрішньому повідомленні для співробітників визнали проєкт під назвою Q* (вимовляється як Q-Star), який може стати проривом у тривалих пошуках компанією так званого універсального штучного інтелекту (AGI) - автономної ШІ-системи, яка перевершує людину у виконанні більшості економічно цінних завдань.

З допомогою величезних обчислювальних ресурсів нова модель змогла б вирішити певні математичні завдання.

Дослідники вважають математику межею розвитку генеративного ШІ. Наразі генеративний штучний інтелект добре справляється з написанням і перекладом мови, статистично передбачаючи наступне слово, і відповіді на одне й те саме запитання можуть сильно відрізнятися.

Однак набуття здатності до математики, де є лише одна правильна відповідь, означає, що алгоритм матиме більші можливості міркувати подібно людському інтелекту. На думку фахівців, це можна застосувати, наприклад, у нових наукових дослідженнях.

На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI може узагальнювати, вивчати та розуміти.

У своєму листі до правління дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту, не уточнюючи, про які саме ризики йдеться. При цьому серед науковців давно точаться дискусії про небезпеку, яку становлять високоінтелектуальні машини, наприклад, чи можуть вони вирішити, що хочуть знищити людство.

Дослідники також звернули увагу на роботу групи "вчених зі штучного інтелекту", існування якої підтвердили численні джерела. За словами одного з учасників групи, сформованої шляхом об'єднання попередніх команд Code Gen та Math Gen, вони досліджували, як оптимізувати наявні моделі ШІ, щоб покращити їхні міркування і, зрештою, виконувати наукову роботу.

Альтман очолював зусилля, спрямовані на те, щоб зробити ChatGPT одним із найбільш прогресивних програмних додатків в історії.

Водночас у Reuters зазначають, що не змогли незалежно перевірити заявлені дослідниками можливості Q*.