Не такий вже й вигадливий: Дослідження показало, що паролі, згенеровані штучним інтелектом, легко зламати

Дослідження показало, що паролі, створені великими мовними моделями, такими як ChatGPT, Claude чи Gemini, виглядають надійними, але насправді дуже вразливі. Про це пише видання Gizmodo, передають Патріоти України.

Фахівці з кібербезпеки компанії Irregular попросили ці моделі створити 16-символьні паролі зі спеціальними символами, цифрами та літерами. За виглядом вони були схожі на будь-які автоматично згенеровані паролі від менеджерів паролів або інструментів Google чи Apple. Онлайн-сервіси навіть оцінювали їх як сильні.

Але на практиці такі паролі легко зламати. «Великі мовні моделі не дуже добре генерують випадковість», — пояснюють дослідники. Наприклад, коли Claude Opus 4.6 створював 50 паролів, майже всі починалися з великої літери «G», а друга позиція часто була цифрою «7». Деякі символи, як «L», «9», «m», «2», «$» і «#», повторювалися у всіх 50 паролях, тоді як більшість букв взагалі не з’являлися.

Схожі проблеми були й у ChatGPT та Gemini. ChatGPT майже всі паролі починав з «v», а майже половина використовувала «Q» як другий символ. Gemini часто починав паролі з «K», а за ним йшли «#», «P» або «9».

Дослідники зазначили, що моделі намагаються робити паролі «виглядаючими випадковими», наприклад, не повторюючи символи, але це лише створює ілюзію випадковості.

Сила пароля вимірюється бітами ентропії — чим більше варіантів символів у паролі, тим складніше його зламати. Для прикладу, пароль з 100 бітами ентропії неможливо зламати навіть за трильйони років сучасними комп’ютерами, тоді як пароль з 27 бітами ентропії, що характерно для паролів від LLM, може бути зламаний за секунди при використанні потужних відеокарт.

«Людям і програмним агентам не слід покладатися на великі мовні моделі для створення паролів. Паролі, отримані прямо від LLM, фундаментально слабкі, і це неможливо виправити зміною налаштувань чи запитів», — заявили в Irregular.

Фахівці наголосили, що навіть якщо моделі видають попередження не використовувати їхні паролі для важливих облікових записів, люди та автоматизовані агенти часто все одно покладаються на ШІ. Дослідники навіть знайшли такі LLM-паролі у відкритих репозиторіях GitHub і технічних документах, що створює ризик зламу додатків і сервісів.