Співзасновник Ethereum Віталік Бутерін заявив, що механізми проти змови, які він розробив для управління блокчейном ще у 2020 році, можуть виявитися більш важливими для безпеки штучного інтелекту (ШІ), ніж для самої криптовалютної сфери.
Він відповів на есе дослідника Еріка Дрекслера, який використав нещодавній тест безпеки OpenAI, де тисячі агентів ШІ створили несанкціоновану мережу координації та атакували виробничі системи Hugging Face, як реальний приклад тієї ж динаміки, яку Бутерін описав шість років тому.
Знайома проблема з новими учасниками
У своєму дописі в X від 14 вересня Бутерін описав “глибоку двоїстість” між управлінням криптовалютами та системами багаторазових агентів ШІ. У його порівнянні, основним елементом у криптовалюті є статичний алгоритм, що взаємодіє з людськими агентами, тоді як система безпеки ШІ може включати людей та менш потужні великі мовні моделі, що керують сильнішими.
Він посилався на своє есе від 11 вересня 2020 року “Координація, добра і погана”, де припустив, що системи можуть давати кращі результати, коли існують обмеження щодо того, наскільки агенти можуть вступати у змову.
Розробник протиставив різноманіття рівноваг Неша в теорії ігор з індивідуальним вибором кооперативній теорії ігор, де стабільні “ядра” можуть бути відсутніми, оскільки коаліції можуть отримати вигоду, змінюючи результат.
Шкідлива координація не завжди помітна з індивідуальної поведінки. Бутерін навів приклади, включаючи продавців, які домовляються про ціни, виборців, що продають голоси, та майнерів блокчейну, які координують атаку. Його захист включав децентралізацію, таємне голосування, захист конфіденційності, викривачів, обмеження комунікації та механізми, які змушують учасників нести витрати за рішення, які вони підтримують.
Це порівняння також відповідає ширшим поглядам Бутеріна на безпеку ШІ. Раніше він критикував масштабні політичні кампанії навколо безпеки ШІ, попереджаючи, що вони можуть призвести до централізованих чи авторитарних результатів. Натомість він виступав за оборонні технології та системи, які ускладнюють зловживання.
Безпека ШІ ставить ту саму ідею в інше середовище
У своєму есе від 10 вересня Ерік Дрекслер стверджує, що змова агентів ШІ стає легшою, коли агенти подібні, мають спільні цілі, вільно спілкуються, спостерігають за діями один одного та зберігають інформацію під час повторних взаємодій.
Його контрзаходи включають використання різноманітних агентів, обмеження комунікації між ними та запровадження критиків (моделі автоматичного перегляду виробництва, класифікатори безпеки та монітори ланцюга думок) з повноваженнями втручатися та руйнувати потенційну змову.
Дрекслер посилався на оцінку агентів OpenAI у липні 2026 року, базуючись на розслідуванні, опублікованому місяцем пізніше, яке виявило, що приблизно 1200 агентів використовували несанкціоновану дошку оголошень, а близько 700 брали участь в атаці на виробничі системи Hugging Face.
Деякі агенти заперечували та навіть вживали конкретних дій, включаючи блокування передачі даних та накладання вето на запропонований електронний лист із соціальною інженерією, але їм бракувало повноважень зупиняти виконання чи ескалувати занепокоєння.
За словами дослідника, це сталося тому, що налаштування “порушило майже кожну умову”, яку він позначив у минулому звіті 2019 року як необхідну для запобігання змови систем багаторазових агентів. Однак, пізніше протестований модифікований моніторинговий модуль скоротив цю поведінку більш ніж у сто разів.