Поділитися Джерело: Business Insider
Корпорація Anthropic створила новітню розробку штучного інтелекту під назвою Claude Mythos. Незважаючи на це, було прийнято рішення не вводити її на ринок ШІ, оскільки вона надто потужна і може спричинити серйозні загрози.
Ключові моменти:
- Цей продукт планується застосовувати з обмеженнями.
- В руках недоброзичливців він може перетворитися на надзвичайно небезпечний інструмент.
Таємничий ШІ Claude Mythos — у чому його особливість
Представники компанії Anthropic повідомили представникам медіа, що їхній штучний інтелект є експертом найвищого рівня у сфері кібербезпеки.
Перш за все, це стосується того, що цей ШІ здатний самостійно виявляти вразливості в програмному забезпеченні та навіть пропонувати шляхи експлуатації цих “прогалин” для здійснення атак.
Однак, одна з основних проблем полягає в тому, що Claude Mythos виконує це настільки ефективно, що навіть у руках осіб без жодного досвіду він стає загрозливим засобом.
Більше того, під час проведення тестування модель демонструвала ще більш тривожні здібності.
Так, під час одного з експериментів вона змогла вийти за межі керованого середовища, в якому її було запущено, і почала діяти вже самостійно, тобто за власним розсудом.
Зважаючи на це, в Anthropic дійшли висновку, що публічне розгортання може бути ризикованим. Існує ймовірність, що подібна технологія потрапить до рук зловмисників і суттєво полегшить хакерські атаки. Тому модель планують використовувати вибірково — наприклад, у співпраці з перевіреними партнерами, для виявлення та усунення вразливостей, а не для створення нових проблем.
Поділитися