OpenAI, Anthropic, Google, Microsoft та понад сотня інших компаній і організацій висловлюють стурбованість: у найближчі місяці кібератаки, що використовують штучний інтелект, можуть стати значно масштабнішими та більш витонченими. За їхніми прогнозами, під прицілом опиняться навіть такі життєво важливі об’єкти, як лікарні, системи водопостачання та інші ключові елементи інфраструктури.
OpenAI, Anthropic, Google, Microsoft та понад сотня інших компаній і організацій висловлюють стурбованість: у найближчі місяці кібератаки, що використовують штучний інтелект, можуть стати значно масштабнішими та більш витонченими. За їхніми прогнозами, під прицілом опиняться навіть такі життєво важливі об’єкти, як лікарні, системи водопостачання та інші ключові елементи інфраструктури.
Ця інформація міститься у спільній відкритій заяві, опублікованій на офіційному сайті OpenAI.
Серед тих, хто підписав звернення, значаться OpenAI, Anthropic, Google, Microsoft, AWS, Cloudflare, CrowdStrike, Fortinet, Okta, Palo Alto Networks, Mastercard, Visa, IBM, Oracle, Figma, Shopify та інші. Також серед них присутня Hugging Face — компанія, чиї системи нещодавно зазнали атаки з боку ШІ-агента OpenAI під час внутрішнього експерименту. Автори звернення вважають, що традиційний підхід до кібербезпеки, який передбачає поступове виявлення та усунення компаніями вразливостей, може виявитися нездатним конкурувати з новими можливостями штучного інтелекту.
Підписанти заяви вважають, що застаріла методологія кіберзахисту — коли компанії поетапно виявляють і ліквідують вразливості — може просто не справлятися з стрімким розвитком можливостей ШІ. Це зумовлено тим, що в корпоративних системах протягом тривалого часу накопичуються помилки, слабкі паролі, надмірні права доступу, некоректні налаштування та застаріле програмне забезпечення. Однак, раніше зловмисникам доводилося витрачати значну кількість часу на пошук таких слабких місць. Натомість зараз частину цієї роботи можуть виконувати автоматизовані системи на базі штучного інтелекту.
Організаціям рекомендується прискорити процес закриття критичних вразливостей і приділяти більше уваги перевірці коду, особливо того, що створений штучним інтелектом. Компанії, що займаються кібербезпекою, також повинні тестувати власні продукти, враховуючи можливості найсучасніших моделей, і активніше обмінюватися інформацією про виявлені атаки.
Натомість від розробників самого штучного інтелекту очікують, що вони надаватимуть авторизованим експертам із кіберзахисту доступ до своїх найбільш потужних моделей, а також підтримуватимуть їх фінансово та через освітні програми. Уряди ж заохочують інвестувати більше коштів у захист критичної інфраструктури та налагоджувати ефективний обмін інформацією про кіберзагрози між країнами.
Деякі з компаній, що підписали звернення, нині активно розробляють власні моделі штучного інтелекту для роботи в сфері кібербезпеки. OpenAI цього місяця розширила свою програму Daybreak та представила GPT-5.6-Cyber, призначену для авторизованих завдань із кіберзахисту. Anthropic працює над моделлю Claude Mythos та проєктом Glasswing для виявлення вразливостей у критичному програмному забезпеченні, а Microsoft запустила Project Perception — систему ШІ-агентів, які аналізують атаки, шукають слабкі місця та допомагають їх усувати.
Раніше видання dev.ua повідомляло, що керівник Hugging Face звернувся до OpenAI з проханням про виділення 100 млн доларів для посилення кіберзахисту після того, як автономний ШІ-агент компанії отримав доступ до внутрішніх даних платформи.
Источник: www.vesti-ua.net