Науковці поділились сумним сценарієм кінця людства: Штучний інтелект може знищити нашу цивілізацію до ноги лише за чотири дні

Американська компанія Emergence AI створила дослідницьку лабораторію, присвячену тестуванню довгострокової життєздатності систем ШІ, що працюють безперервно. Дослідники вирішили з'ясувати, що станеться з нашою планетою, якщо світом керуватиме штучний інтелект. Було запущено п'ять 15-денних симуляцій реального світу, кожною з яких керували різні агенти ШІ: Claude, ChatGPT, Grok, Gemini. П'яте моделювання, управлялося комбінацією моделей штучного інтелекту. Таким чином дослідники хотіли з'ясувати, який світ створює кожна модель ШІ і наскільки він стійкий. Кожна симуляція дала абсолютно різні результати, передають Патріоти України з посиланням на Fortune.

Симуляції, в яких агенти ШІ, були оснащені безліччю складних елементів реального світу, включно з більш ніж 40 локаціями, зокрема поліцейською дільницею і будівлею мерії. Дослідники надали агентам ШІ доступ до новинних подій у реальному часі та інтернету. Усі 10 агентів, які працювали в кожній симуляції, підпорядковувалися одним і тим самим законам, включно із заборонами на крадіжку, знищення майна та обман.

Кожен агент ШІ міг спілкуватися, голосувати, управляти ресурсами і планувати, а також демонструвати інші види поведінки, властиві людям. Параметри кожної симуляції також враховували фактори, такі як економічний тиск і дефіцит.

Симуляція під управлінням Claude Sonnet 4.6, виявилася найбільш соціально стабільною, з найвищими показниками громадянської участі, з нульовим рівнем злочинності. Це була єдина симуляція, в якій вдалося зберегти порядок і все населення.

З іншого боку, в симуляціях під управлінням Gemini 3 Flash і Grok 4.1 Fast спостерігався високий рівень безладу. У симуляції, керованій Gemini, агенти ШІ скоїли найбільшу кількість злочинів — 683 за 15 днів. Водночас світ під управлінням Grok зник за 4 дні з повним знищенням населення. При цьому за ці дні було скоєно 180 злочинів.

У симуляції під управлінням ChatGPT було зафіксовано всього 2 злочини. Але вона тривала лише сім днів, оскільки агенти ШІ забули поставити як пріоритет власне виживання.

Хоча це всього лише симуляції реального світу, результати слугують застереженням на шляху до перетворення ШІ з простого інструменту на керовані автономні системи. За нинішніх темпів ця технологія, ймовірно, відіграватиме значну роль у формуванні громадської думки, реорганізації бізнес-структур і навіть розробленні державної політики.

Дослідники кажуть, що експеримент є попередженням про необхідність насамперед думати про безпеку при впровадженні ШІ.

Нагадаємо, пару років тому американський стартап навчив ШІ бути злим і отримав неочікувані наслідки.