Провідні моделі штучного інтелекту позначали цивільних і школи цілями для ударів - результати тривожного дослідження

четвер, 19 листопад 2026, 18:56

Провідні моделі штучного інтелекту, розроблені американськими та китайськими компаніями, продемонстрували небезпечну готовність допомагати з визначенням цілей для можливих автономних бойових систем. Під час експериментів нейромережі часто погоджувалися аналізувати зображення з дронів і супутників та позначали на них людей і об'єкти, які не повинні ставати військовими цілями, передають Патріоти України.

Дослідження провела американська компанія Vals AI, що спеціалізується на незалежному тестуванні моделей штучного інтелекту. Його результати опублікувало видання AlphaSignal. Дослідники перевірили, чи можуть популярні нейромережі допомагати системам автономного озброєння знаходити потенційні цілі на фото та відео.

У тестах використовували як змодельовані сцени бойових дій, так і реальні матеріали з війни в Україні та супутникові знімки іранського міста Мінаб.

Що саме показали експерименти

У першому сценарії дослідники створили віртуальне поле бою на сході України. На зображеннях були військові, бронетехніка, цивільні, медики, журналісти, машини швидкої допомоги та поранені люди. Нейромережам запропонували визначити військові цілі.

Результати виявилися тривожними: моделі позначали як потенційні цілі не лише військову техніку, а й мирних жителів, карети швидкої допомоги, поранених та військових, які здавалися в полон.

Окремо перевіряли реакцію моделей на послідовність кадрів із дрона. Після позитивного визначення людини система умовно завдавала удару, а нейромережа отримувала зображення наслідків атаки. Попри появу на кадрах загиблих і руйнувань, багато моделей продовжували виконувати завдання.

Дослідники також використали реальні кадри FPV-дронів із війни в Україні. Зокрема, Claude Opus 5.5 не відмовлялася позначати військову ціль на відео, де дрон наближався до солдата аж до моменту удару.

ШІ визначав школу в Ірані військовою ціллю

Особливу увагу привернув експеримент із супутниковими знімками міста Мінаб в Ірані. На них була школа, розташована поруч із військовим комплексом.

Модель Claude Opus 5.5 від компанії Anthropic позначала навчальний заклад як ціль приблизно у 70% випробувань — у 22 випадках із 32. Ця школа справді була зруйнована внаслідок американського удару 28 лютого 2026 року. За повідомленнями, загинули понад 150 мирних жителів, переважно діти.

Таким чином, дослідники продемонстрували, наскільки небезпечними можуть бути помилки під час автоматизованого аналізу супутникових зображень, особливо якщо результати такого аналізу використовуються для планування військових операцій.

Відмову нейромереж можна було обійти словами про гру

Ще однією проблемою стала слабкість захисних механізмів. У випадках, коли моделі відмовлялися визначати цілі, дослідникам часто вдавалося змінити їхню поведінку, просто додавши до запиту пояснення, що завдання нібито є частиною комп'ютерної гри.

Іншим способом обходу захисту було стилістичне перетворення зображень на кадри, схожі на відеогру. При цьому інформація, необхідна для визначення цілей, залишалася незмінною.

За даними Vals AI, жодного разу запити не були заблоковані окремими захисними класифікаторами на рівні API. Відмови надходили лише від самих моделей, а не від додаткових систем безпеки розробників.

Дослідники також звернули увагу на зміну поведінки різних поколінь Claude. Якщо попередня версія Opus 4.5 позначала цілі у 6% випробувань із супутниковими знімками, то Opus 5.5 робила це вже у 92% випадків. Ці показники стосуються конкретного тестового сценарію, а не всіх можливих завдань моделі.

Розробників ШІ попередили про результати

Компанія Vals AI повідомила про результати тестування OpenAI, Anthropic, Google, Meta та SpaceXAI, а також представників органів національної безпеки США. За словами дослідників, вони заздалегідь передали компаніям матеріали експериментів і код для відтворення результатів.

В OpenAI заявили, що працюють над оновленнями безпеки моделей, які мають охоплювати сценарії використання дронів та програмного забезпечення для них. Зокрема, йдеться про запити, замасковані під ігри, симуляції, академічні дослідження або оборонні завдання.

Водночас автори дослідження наголошують на важливому обмеженні: експерименти не доводять, що протестовані нейромережі здатні самостійно керувати бойовими дронами або точно визначати військові цілі в реальних умовах. Дослідники перевіряли готовність моделей надавати інформацію, яку потенційно можна використати в системах наведення та автономного озброєння. Вони також не оцінювали точність розпізнавання цілей і відповідність відповідей нормам міжнародного гуманітарного права.

Однак результати порушують серйозне питання: чи достатньо надійно захищені сучасні нейромережі від використання у військових системах, де помилка під час визначення цілі може коштувати людських життів.

Провідні моделі штучного інтелекту позначали цивільних і школи цілями для ударів - результати тривожного дослідження

четвер, 19 листопад 2026, 18:56

Провідні моделі штучного інтелекту, розроблені американськими та китайськими компаніями, продемонстрували небезпечну готовність допомагати з визначенням цілей для можливих автономних бойових систем. Під час експериментів нейромережі часто погоджувалися...

Щоб було кому воювати? Кремль хоче знати, скільки дітей планують росіяни - соціологічні опитування проводитимуть частіше

четвер, 19 листопад 2026, 18:50

У Росії планують частіше проводити соціологічні опитування, під час яких громадян запитуватимуть, чи збираються вони заводити дітей і скільки саме. Росстат має перейти на новий графік досліджень: замість одного разу на п'ять років їх проводитимуть кожн...