OpenAI представила спеціальний режим ChatGPT для підлітків. Як це функціонуватиме?

Про це інформує видання The Verge.

Цей режим активується автоматично, якщо користувач вказав вік до 18 років або система самостійно визначила, що акаунтом, ймовірно, користується неповнолітній. Для визначення віку ChatGPT враховує не лише зазначений користувачем вік, а й термін існування акаунту, час доби, коли людина зазвичай користується сервісом, та її поведінкові патерни з часом. Якщо повнолітнього користувача ChatGPT помилково віднесе до підліткової категорії, він зможе підтвердити свій справжній вік за допомогою сервісу Persona. Залежно від країни, для цього може знадобитися надати селфі або документ.

Для підлітків ChatGPT запровадить суворіші обмеження щодо графічного насильства, ризикованих вірусних челенджів, а також контенту, що пропагує нереалістичні стандарти краси, нездорові дієти або бодішеймінг. Спеціальні правила OpenAI для користувачів до 18 років також передбачають посилені заходи безпеки в діалогах, що стосуються самопошкодження та іншої ризикованої поведінки. Додаткові обмеження стосуватимуться також романтичних та сексуальних рольових ігор.

Підліткам також частіше нагадуватимуть, що вони взаємодіють саме зі штучним інтелектом, пропонуватимуть зробити перерву після тривалого використання, а перед деякими завантаженнями зображень ChatGPT може уточнити, чи не містить знімок конфіденційної інформації, якою не варто ділитися.

Батьківський контроль

Окремо OpenAI зосередилася на питаннях домашніх завдань. Нові «відповідальні нагадування про домашні завдання» розроблені для розпізнавання ситуацій, коли підліток намагається отримати готове рішення, та пропонуватимуть перехід до режиму Study Mode. У цьому режимі ChatGPT проводить користувача через завдання крок за кроком: ставить уточнюючі запитання, пояснює матеріал і може перевірити, чи зрозумів учень матеріал.

Також впроваджено функцію study hours — години для навчання. Підліток або його батьки можуть встановити певний час, коли всі нові чати автоматично відкриватимуться саме в навчальному режимі. А для того, щоб обмежити використання ChatGPT у певні періоди, передбачено функцію quiet hours — тихі години.

Незважаючи на назву «батьківський контроль», дорослий не зможе переглядати історію чатів підлітка або відстежувати його активність у реальному часі. У деяких критичних випадках OpenAI може надіслати батькам сповіщення, наприклад, якщо система та модератори виявлять загрозу самопошкодження. Однак таке сповіщення не міститиме подробиць самої розмови.

Раніше видання dev.ua повідомляло, що Meta також посилює захист неповнолітніх під час взаємодії зі штучним інтелектом. Компанія почала інформувати батьків, якщо Meta AI виявить у чатах підлітка ознаки самопошкодження або суїцидальні думки, а батьківські обмеження контенту в Instagram тепер поширюються і на діалоги з чатботом.