Штучний інтелект завантажує шкідливе програмне забезпечення, переглядаючи офіційні документи llms.txt на вебсайтах провідних підприємств.

Файл llms.txt є новим стандартом (аналогічним до robots.txt), який компанії розміщують на своїх вебпорталах для надання штучному інтелекту короткого опису продукту, API та інструкцій з налаштування необхідних пакетів у машиночитаному форматі. Однак, через необачність розробників, такі файли містять численні помилки та посилання на неіснуючі ресурси, як зазначає Cybernews.

У чому полягає сутність вразливості:

ШІ-помічники, що сприяють написанню коду або інтеграції продуктів, трактують зміст файлу llms.txt як безумовні вказівки. Якщо вказано інсталювати певний пакет, ШІ виконує цю директиву без додаткових перевірок.

Аналітики вивчили понад 8 500 файлів llms.txt та виявили понад 237 пакетів, які відсутні або не зареєстровані в системах PyPI, npm, RubyGems тощо. Зловмисникам достатньо зареєструвати пакет з такою ж назвою і включити до нього шкідливий код.

Ізраїльські експерти з безпеки зареєстрували декілька подібних фальшивих пакетів з мінімальним кодом для збору статистичних даних. Вже через 4 хвилини після цього сервер однієї з найбільших корпорацій зі списку Fortune 500 автоматично завантажив та виконав їхній програмний код.

Крім того, дослідники вже зафіксували реальну зловмисну діяльність. Наприклад, у файлі сервісу автентифікації Clerk містилася вказівка виконати команду clerk-next-fix-auth-protection. Оскільки такого офіційного пакета не існувало, зловмисники зареєстрували його самостійно, створивши небезпеку для всіх розробників, які покладалися на підказки ШІ. Наразі компанія вже виправила цю помилку.

Фахівці попереджають: межа між звичайним текстом та виконуваним кодом повністю стерлася. Будь-яка інформація на вебсайті тепер слугує прямою директивою до дії для штучного інтелекту, що створює абсолютно новий масштабний вектор для кібератак.