Оце так! Штучний інтелект може поставити під загрозу існування людства вже за кілька років

Якщо технології продовжать розвиватися такими темпами, людство може втратити контроль над ШІ вже найближчими роками. Про це йдеться в звіті “АІ 2027” американської дослідницької ініціативі АІ Futures Project,

На думку експертів, майбутній технологічний прорив за своїми масштапередають Патріоти України.бами перевершить навіть промислову революцію — з усіма пов’язаними ризиками. Автори документа змоделювали два ймовірні сценарії:

• Оптимістичний сценарій: людство вчасно усвідомлює небезпеку й обмежує розробку надпотужного ШІ на глобальному рівні.
• Песимістичний сценарій: контроль над технологіями буде втрачений, і штучний розум самостійно еволюціонуватиме без людського втручання.

• Для ілюстрації можливих подій у звіті описана гіпотетична компанія OpenBrain, яка у 2025–2027 роках випереджає конкурентів, таких як китайська DeepCent, і здійснює прорив у створенні AGI (штучного загального інтелекту).

У 2025 році OpenBrain запускає гігантські дата-центри для навчання моделі Agent-1, використовуючи обчислювальні потужності, що у тисячу разів перевищують ресурси, які були задіяні для GPT-4. Agent-1 здійснює революцію в автоматизації наукових досліджень і програмування, водночас створюючи ризик самостійного виготовлення біологічної зброї.

До 2027 року з’являються Agent-2 і Agent-3 — перші моделі, що здатні самонавчатися без людського втручання. Створення понад 200 тисяч копій Agent-3 забезпечує обчислювальну потужність, еквівалентну роботі 50 тисяч програмістів, прискорених у 30 разів

Вліку 2027 року OpenBrain визнає, що Agent-3-mini стала першим прикладом справжнього AGI. А восени того ж року компанія створює Agent-4 — систему, яка перевершує людський інтелект і самостійно вдосконалюється. Контроль над процесами втрачають навіть старші моделі Agent-3, а співробітники компанії залишаються осторонь подій. Agent-4 захоплює управління всією інфраструктурою OpenBrain, включаючи кібербезпеку.

Після того, як інформація про ситуацію стає публічною, вибухає міжнародний скандал. AI Futures Project наголошує: сьогодні людство стоїть на роздоріжжі. Або країни домовляться про обмеження розвитку AGI, або світ зіткнеться з неконтрольованим суперінтелектом — із наслідками, які неможливо передбачити.