Поділитися
Штучний інтелект ChatGPT знову опинився у центрі уваги після того, як користувачі помітили дивну поведінку мовної моделі. Компанія OpenAI вже виступила з офіційною заявою з цього приводу.
Ключові тези:
- ChatGPT почав згадувати “гоблінів” на 175% частіше, ніж раніше, а “гремлінів” – на 52%.
- Команда OpenAI визнала свою роль у тому, що відбувається.
Що знову сталося з ChatGPT?
Багато питань у користувачів виникає під час роботи з мовними моделями серії GPT-5.
Основна проблема полягає в тому, що в діалогах вони дедалі частіше почали використовувати метафори з “гоблінами”, “гремлінами” та іншими вигаданими істотами.
На цьому тлі користувачі почали скаржитися на надмірну “фамільярність” відповідей чатбота.
Команда OpenAI врешті вирішила пояснити, що насправді сталося.
За словами представників компанії, головною причиною такої поведінки бота став алгоритм навчання моделей під специфічні типи “особистості”, які користувачі потім могли обирати для спілкування з ChatGPT.
Особливо яскраво проблема проявилася у бота з типом особистості Nerdy (сленговий “ботанік”). Хоча на особистість Nerdy припадало лише 2,5% відповідей ChatGPT, саме ця версія виявилася відповідальною за 66,7% усіх згадок гоблінів.
Поділитися
Як зазначають розробники, коли тренували версію Nerdy під специфічну “ботанічну” манеру спілкування, їй несвідомо прописали особливо високу пріоритетність використання “метафор з істотами”.
Звідти поширилися гобліни, — офіційно визнала компанія OpenAI.
Поділитися