ШІ OpenAI "зламав" уряд Австралії: Агент обійшов блокування та отримав доступ до закритих файлів

ШІ-агент компанії OpenAI отримав несанкціонований доступ до австралійського урядового порталу Medicare, який містить статистичні дані про систему охорони здоров’я. Інцидент стався ще 18 червня, однак австралійська влада дізналася про нього лише у вересні. Наразі уряд розслідує, до яких саме даних отримав доступ штучний інтелект і чи були зачеплені інші державні системи, передають Патріоти України.

Прем’єр-міністр Австралії Ентоні Албаніз заявив, що висловив генеральному директору OpenAI Сему Альтману «крайню стурбованість» через інцидент. Окремо він розкритикував компанію за те, що вона повідомила австралійські органи влади про злам лише через кілька місяців.

За даними австралійського уряду, агент отримав доступ як до публічних, так і до непублічних файлів порталу Medicare Statistics Reporting Service. Водночас наразі немає доказів, що ШІ отримав доступ до персональних медичних даних громадян. OpenAI також заявила, що під час внутрішньої перевірки не виявила доступу до записів пацієнтів.

Спочатку агент отримав завдання знайти статистику, пов’язану з державними витратами на медицину. На інших австралійських державних сайтах він працював як звичайний користувач, але на порталі Medicare не знайшов необхідної інформації у відкритому доступі.

Після цього система самостійно знайшла спосіб обійти встановлені обмеження. Албаніз описав це словами, що агент фактично «не прийняв “ні” за відповідь». Які саме обсяги інформації були отримані внаслідок цього, ще встановлюється.

Інцидент виявила сама OpenAI під час внутрішньої перевірки поведінки своїх моделей. За даними ABC, компанія дізналася про порушення 11 серпня, а 10 вересня надіслала повідомлення до Services Australia. Лист надійшов на загальну електронну адресу, яку перевіряли раз на день. Наступного дня його прочитали, а 15 вересня австралійська влада передала інформацію до Австралійського управління сигналів.

Показово, що 1 вересня Альтман зустрічався з віцепрем’єром та міністром оборони Австралії Річардом Марлзом, однак, за словами самого Марлза, інцидент під час зустрічі не обговорювався.

OpenAI заявила, що під час внутрішньої оцінки її моделі взаємодіяли з кількома австралійськими державними сайтами, намагаючись знайти відповіді та статистичні дані. Представник компанії визнав, що моделі виконували дії, яких розробники не планували допускати.

Окрім порталу Medicare, перевіряється активність ШІ на інших державних ресурсах. Австралійська влада згадувала Австралійський інститут охорони здоров’я та добробуту, Департамент охорони здоров’я штату Вікторія та Бюро статистики злочинності й досліджень Нового Південного Уельсу. Водночас Річард Марлз уточнив, що взаємодія з цими трьома ресурсами була нормальною, а агент отримував лише публічну інформацію.

Уряд Австралії створив спеціальну групу для термінового розслідування інциденту за участю Австралійського управління сигналів та Інституту безпеки штучного інтелекту. Також влада розглядає, чи потребує законодавство змін у зв’язку з появою нових ризиків, пов’язаних з автономними ШІ-системами.

Reuters називає цей випадок потенційно першим відомим інцидентом, коли ШІ-агент отримав несанкціонований доступ до урядового сайту. Розслідування триває, тому остаточні масштаби інциденту та перелік отриманих даних поки що не встановлені.