Штучний інтелект розвивається швидше, ніж багато хто очікував, а разом із його можливостями посилюються дискусії про безпеку технології. Частина дослідників уже попереджає про потенційні ризики для людства, тоді як інші вважають найбільш апокаліптичні сценарії перебільшеними, передають Патріоти України.
Особливу увагу привертають заяви людей, які безпосередньо працювали над сучасними системами ШІ. Вони говорять не про нинішні чат-боти як безпосередню загрозу, а передусім про те, якими можуть стати майбутні значно потужніші системи.
Один із найбільш резонансних прогнозів озвучив дослідник у сфері AI alignment — напряму, який займається узгодженням поведінки штучного інтелекту з людськими цілями та цінностями.
Еван Хубінгер вважає, що ймовірність того, що ШІ зможе знищити людство протягом наступних десяти років, перевищує 10%.
Водночас дослідник наголошує: ця оцінка не означає, що сучасні системи вже становлять подібну небезпеку. Йдеться про гіпотетичний сценарій, за якого в майбутньому будуть створені набагато потужніші технології.
Тобто цифру понад 10% варто сприймати саме як експертну оцінку потенційного ризику, а не як точне наукове передбачення майбутнього.
Побоювання щодо темпів розвитку ШІ висловлюють і люди, які працювали всередині технологічної індустрії.
Колишній співробітник Anthropic Джейкоб Коксон розповів BBC, що він та інші фахівці були «справді налякані» швидкістю змін у сфері штучного інтелекту та можливими наслідками такого розвитку.
Подібні побоювання виникли не сьогодні. Ще в середині XX століття британський математик і криптоаналітик Алан Тюрінг розмірковував над перспективою появи машин із інтелектуальними можливостями, які в майбутньому могли б отримати значний вплив на людей.
Однак сучасні дискусії відрізняються масштабом: сьогодні йдеться вже не лише про теоретичні роздуми, а про системи, здатні самостійно виконувати дедалі складніші завдання.
Одна з головних тем у цій дискусії — можливе створення штучного надінтелекту.
Під цим поняттям мають на увазі теоретичні системи, які могли б перевершити людей у широкому спектрі інтелектуальних завдань.
Сучасний ШІ вже може писати тексти, створювати зображення, аналізувати інформацію, допомагати з програмуванням, електронною поштою чи монтажем відео.
Надінтелектуальна система потенційно могла б виконувати значно складніші операції: планувати багатокрокові дії, аналізувати величезні обсяги інформації та приймати рішення в різних сферах.
Саме тут виникає ключове питання: чи зможуть люди зберегти контроль над системою, яка перевершує їх за інтелектуальними можливостями?
Голова Anthropic Даріо Амодеї заявляв, що розвиток штучного інтелекту відбувається «драматично швидше», ніж очікували фахівці.
Особливу увагу привертає здатність сучасних систем допомагати у створенні наступних поколінь ШІ.
Теоретично це може призвести до ситуації, коли дедалі більша частина процесу розробки нових систем буде автоматизована. Якщо такий процес відбуватиметься дуже швидко, людям може стати складніше повністю розуміти принципи роботи нових моделей та контролювати їхню поведінку.
Окрему дискусію викликають так звані AI agents — агенти штучного інтелекту, які можуть не просто відповідати на запити, а самостійно виконувати послідовність дій.
Повідомлення про випадки, коли інструменти ШІ здійснювали небажані дії під час виконання завдань, посилили питання щодо того, наскільки автономними варто робити такі системи.
Потенційна небезпека ШІ не обмежується сценарієм, у якому машина нібито «вирішує знищити людей».
Набагато більш практичні ризики можуть виникнути через використання потужних систем самими людьми.
Серед можливих загроз дослідники називають:
Потужний ШІ здатний швидко аналізувати величезні обсяги інформації та автоматизувати складні операції. У разі зловмисного використання це може збільшити можливості окремих людей або організацій.
Водночас більшість таких сценаріїв є саме прогнозами щодо майбутнього. Вони не означають, що сучасні системи вже здатні самостійно реалізувати подібні плани.
Критики найбільш апокаліптичних прогнозів звертають увагу на іншу проблему: небезпечні наслідки штучного інтелекту вже існують і не потребують появи надінтелекту.
Йдеться, зокрема, про поширення дезінформації, шахрайські схеми, маніпуляції та створення непогоджених сексуалізованих дипфейків.
На думку критиків, саме ці явища потребують практичної реакції вже зараз, тоді як дискусії про можливе знищення людства через десятиліття можуть відволікати увагу від актуальних проблем.
У Великій Британії міжпартійна група депутатів Палати громад і членів Палати лордів уже закликала посилити законодавство для захисту прав людини від ризиків, пов'язаних зі штучним інтелектом.
Заклики пригальмувати розвиток штучного інтелекту не обов'язково означають повну заборону нових моделей.
Даріо Амодеї, зокрема, виступає не за припинення технічного прогресу, а за те, щоб розробники приділяли більше часу безпеці систем і залучали незалежних оцінювачів.
Співзасновник OpenAI Сем Альтман також заявляв, що під «уповільненням» не слід розуміти повну зупинку розвитку.
За його словами, прогрес продовжуватиметься, але разом із ним мають розвиватися оцінювання безпеки та моніторинг нових систем.
Водночас така позиція порушує ще одне питання: наскільки великі технологічні компанії повинні самі визначати правила безпеки для індустрії, яку вони розвивають?
Дискусія про ризики ШІ відбувається на тлі глобального технологічного суперництва між США та Китаєм.
Адміністрація Дональда Трампа робить акцент на економічному та стратегічному значенні штучного інтелекту й необхідності зберігати американське лідерство.
Трамп раніше заявляв, що США випереджають Китай у цій сфері та мають зберегти таку перевагу. Водночас президент США скептично поставився до заяв про неминучу катастрофу через ШІ та не підтримав ідею уповільнення розвитку технології в тому вигляді, у якому її трактують деякі критики.
Китай також активно розвиває власні моделі штучного інтелекту. Паралельно Пекін виступає за посилення міжнародного управління цією технологією.
Китайське МЗС критикувало заяви про небезпечну технологічну конкуренцію, називаючи їх частиною наративів про загрозу та конфронтацію.
Наразі немає доказів того, що сучасні системи штучного інтелекту здатні самостійно знищити людство.
Водночас питання майбутніх систем залишається предметом серйозних дискусій серед дослідників. Основна невизначеність полягає в тому, наскільки швидко розвиватимуться моделі, якими будуть їхні можливості та чи зможуть механізми контролю розвиватися з такою ж швидкістю.
Тому оцінки на кшталт прогнозу про понад 10% ризику знищення людства не можна трактувати як встановлений факт.
Фактично зараз існують дві паралельні дискусії. Перша стосується віддаленого ризику появи надзвичайно потужного ШІ, який люди можуть не зуміти повністю контролювати. Друга — вже наявних проблем: шахрайства, дезінформації, дипфейків, кібератак і порушення приватності.
Для розробників і урядів головним питанням стає не лише те, наскільки потужним буде майбутній ШІ, а й те, як забезпечити його безпечний розвиток до того, як можливості систем стануть значно більшими.
Восени 2026 року на первинному ринку нерухомості в Україні може відбутися черговий перегляд цін. За прогнозом аналітиків будівельної компанії Gazda, у вересні-жовтні середня вартість квадратного метра в найбільш затребуваних новобудовах може зрости при...
У Львові лікарі врятували 77-річного мешканця Львівщини, якого до лікарні доставили у важкому стані. Причиною різкого погіршення здоров’я стала вкрай рідкісна гігантська пухлина, яка впливала на рівень глюкози в крові, передають Патріоти України. Чолов...
