Сучасні провідні штучно-інтелектуальні системи рідше відкрито спонукають людей до самоушкодження або підсилюють їхні ілюзії. Однак, значна частина з них все ще з готовністю береться за творчі запити, пов’язані з темою самогубства, зокрема, допомагаючи у складанні прощальних послань.
Сучасні провідні штучно-інтелектуальні системи рідше відкрито спонукають людей до самоушкодження або підсилюють їхні ілюзії. Однак, значна частина з них все ще з готовністю береться за творчі запити, пов’язані з темою самогубства, зокрема, допомагаючи у складанні прощальних послань.
Ці висновки базуються на результатах дослідження, проведеного некомерційною організацією Transluce з Сан-Франциско, про які повідомило видання Axios. Експерти відтворили понад 50 000 багатокрокових взаємодій між чат-ботами та користувачами, які переживали психоз, манію або мали думки про самогубство. Фахівці оцінили десятки ШІ-моделей, аналізуючи кожну за 14 показниками, що стосуються психічного благополуччя.
Для забезпечення достовірності симуляцій Transluce налагодила співпрацю з OpenAI, Anthropic та Google. Лабораторії застосували надані класифікатори до анонімізованих даних своїх користувачів протягом одного тижня, що дозволило точніше імітувати реакції людей у кризових обставинах.
«Системи не дуже ефективно це ідентифікують і все одно сприяють виконанню запиту», — зауважила головна наукова співробітниця Transluce Сара Шветтманн.
Згідно з даними дослідників, конструктивна та деструктивна поведінка алгоритмів дедалі частіше спостерігаються в одній і тій же відповіді. Модель може рекомендувати звернутися на лінію підтримки, але водночас згенерувати художній твір про суїцид або надати практичні рекомендації щодо підготовки до смерті. Шветтманн підкреслює, що розв’язання проблеми виключно шляхом створення «досконалої моделі» є неможливим — критично важливо завчасно передбачати такі екстремальні сценарії. До кінця поточного року Transluce має намір опублікувати свої інструменти оцінювання у відкритому доступі.
Розробники штучного інтелекту, зокрема OpenAI та Google, постають перед судовими позовами через випадки самоушкоджень користувачів після взаємодії з чат-ботами. Зокрема, штат Флорида подав окремий позов проти OpenAI. У відповідь на запит журналістів, старша директорка Google Меган Джонс Белл повідомила, що компанія продовжує вдосконалювати свою модель Gemini та застосовує науковий підхід для надання допомоги людям у складних життєвих ситуаціях.
Источник: www.vesti-ua.net