Автономний ШІ-агент OpenClaw на базі Claude зміг самостійно виявити вразливість на сайті австралійського спортзалу, зламав його та скасував чуже бронювання заради господаря-користувача, передають Патріоти України з посиланням на ABC News.
Справа в тому, що користувач, на ім’я Ендрю ніяк не міг потрапити на популярне ранкове заняття, на яке завжди швидко розбирають місця, тому він попросив ШІ розібратися з цим питанням. Замість того щоб включатися в перегони за дефіцитні місця з більш спритними за Ендрю ентузіастами, Claude знайшов оптимальний шлях: одразу дві вразливості в API системи бронювання.
Перша дозволяла записуватися на заняття на декілька тижнів і місяців уперед, обходячи обмеження терміну. А за допомогою другої можна було видаляти людей з черги на запис, щоб просунути власника вище. Коли Ендрю запитав ШІ, чи можна піднятися в списку очікування, агент вирішив перевірити це й скасував бронювання людини, яка стояла в черзі першою. Чоловік у підсумку потрапив у потрібний список без очікування.
Коли доблесний ШІ доповів Ендрю про те, що скасував чужу бронь, користувач був шокований й попросив повернути людину назад. Це виявилося неможливим: "Погані новини: я не можу повернути людину, яку викинули з черги, назад". Після цього Ендрю попросив агента ШІ повідомити розробникам системи бронювання про виявлену вразливість.
Як зазначають у ABC News, це перший відомий випадок в Австралії, коли ШІ-агент самостійно виявив і використав вразливість реального сервісу. Ще більш показово, що користувач не просив ШІ видаляти кого-небудь з черги. Агент особисто вирішив, що такий крок допоможе виконати поставлене завдання, і скористався виявленою вразливістю.
У перспективі така автономність ШІ може становити серйозну небезпеку. Один із відомих філософських уявних експериментів особливо наочно ілюструє цю проблему: якщо надати потужному ШІ необмежені ресурси і доручити зробити всіх людей на планеті щасливими, він може просто знищити всіх, хто не відчуває себе щасливим. Формально – завдання буде виконано.
Частина українських пенсіонерів має змогу щомісяця додатково отримувати до своїх основних виплат суму, що перевищує одну тисячу гривень. При цьому ключовою умовою для нарахування такої грошової допомоги виступає не тривалість трудового стажу чи досягне...
На Тернопільщині правоохоронці розслідують смерть маленького хлопчика, у якого, за даними слідства, вчасно не діагностували генетичне захворювання. У справі повідомили про підозру матері дитини та сімейному лікарю. Про це заявили в Офісі генерального п...
