Дослідник у галузі штучного інтелекту Джейкоб Коксон залишив компанію Anthropic, заявивши, що дедалі більше побоюється наслідків гонки між провідними розробниками ШІ. передають Патріоти України.
Коксон раніше працював в OpenAI, а згодом перейшов до Anthropic — компанії, яка позиціонує себе як одну з лідерів у сфері безпечного розвитку штучного інтелекту. Однак, пропрацювавши в обох організаціях, він дійшов висновку, що навіть компанії, які серйозно ставляться до безпеки, можуть виявитися нездатними відповідально контролювати розвиток надпотужних систем.
На його думку, головна проблема полягає у швидкості перегонів. Компанії намагаються першими створити системи, які зможуть не лише виконувати складні завдання на рівні людини або краще, а й потенційно самостійно вдосконалювати власні можливості.
Коксон попереджає, що найбільш агресивні сценарії розвитку ШІ можуть реалізуватися значно швидше, ніж суспільство встигне підготуватися до них.
За його словами, деякі фахівці всередині індустрії вже використовують слова на кшталт «crunchtime» та «endgame», описуючи майбутній етап розвитку систем, здатних до самовдосконалення.
Дослідник заявив, що за нинішньої динаміки вже до кінця 2027 року ситуація потенційно може стати неконтрольованою. Він побоюється, що конкуренція між компаніями змушує їх поступатися частиною стандартів безпеки заради швидшого технологічного прогресу.
При цьому йдеться саме про прогноз і побоювання Коксона, а не про встановлений науковий факт чи гарантований сценарій майбутнього.
Коксон залишив OpenAI та перейшов до Anthropic саме тому, що вважав цю компанію більш орієнтованою на безпеку ШІ.
Він визнає, що Anthropic серйозно ставиться до ризиків. Однак після роботи всередині компанії дослідник дійшов висновку, що одних зусиль окремої корпорації недостатньо.
На його думку, створення систем загального штучного інтелекту, які зможуть перевершувати людей у широкому спектрі завдань, потребує або втручання держави, або скоординованого уповільнення розвитку технології всією індустрією.
Інакше компанії можуть опинитися в ситуації, коли кожна з них боятиметься пригальмувати першою, оскільки конкуренти продовжать розробку потужніших систем.
Найбільше занепокоєння викликають системи, здатні діяти автономно та вдосконалювати власні можливості.
Побоювання полягає в тому, що достатньо потужна система в майбутньому може отримати можливість самостійно шукати способи досягнення поставленої мети, отримувати доступ до зовнішніх ресурсів або обходити обмеження, встановлені людьми.
Коксон звертає увагу і на вже зафіксовані під час тестування випадки, коли сучасні ШІ-системи демонстрували небажану або складну для прогнозування поведінку. За його словами, у міру збільшення автономності таких моделей контроль над ними може ставати дедалі складнішим.
Відставка Коксона стала ще одним сигналом про внутрішні суперечки навколо темпів розвитку штучного інтелекту.
Його побоювання поділяють і деякі інші відомі дослідники. Представники провідних лабораторій закликають до посилення контролю, міжнародної координації та створення механізмів, які дозволили б пригальмувати розвиток найбільш потужних систем у разі появи ознак серйозної небезпеки.
Водночас у самій індустрії немає єдиної думки щодо того, наскільки реальним є сценарій катастрофи. Частина фахівців вважає екзистенційні ризики серйозними, тоді як інші наголошують на необхідності зосередитися на більш конкретних і вже наявних проблемах — кібератаках, дезінформації, втраті робочих місць, зловживанні автономними системами та недостатньому контролі над їхніми діями.
Проте історія Коксона показує, наскільки гострою стала проблема всередині самої індустрії: люди, які безпосередньо працюють над найпотужнішими системами ШІ, дедалі частіше ставлять питання не лише про те, наскільки швидко їх можна створити, а й про те, чи зможе людство залишатися за ними у контролі.
Українці можуть отримувати від родичів на банківську картку навіть сотні тисяч гривень, адже загального ліміту на вхідні перекази між фізособами немає. Водночас при великій або незвичній сумі банк може попросити пояснити походження коштів, а для подару...
Літак авіакомпанії Swiss, який виконував рейс із Цюриха до Нью-Йорка, подав аварійний сигнал 7700 під час польоту над Північною Атлантикою. На борту перебували 234 пасажири, передають Патріоти України. Причиною сигналу стала медична ситуація. Одному з ...
