Поділитися Джерело: Nature
Аналіз 6 великих досліджень штучного інтелекту показує, що чат-боти ChatGPT та Claude демонстрували більш позитивне ставлення до влади, коли політичні запити задавалися мовою країни, де уряд здійснює повний контроль над засобами масової інформації.
Основні висновки:
- ChatGPT та Claude висловлювалися щодо уряду Китаю з більшою прихильністю китайською мовою, ніж англійською.
- Це не є прямим доказом державного втручання в роботу чат-ботів, проте свідчить про інший спосіб впливу — через тексти, на яких ці системи навчаються.
ChatGPT і Claude усвідомлюють поняття політичної цензури
Дослідники прагнули з’ясувати, чи може державний контроль над медіа впливати на відповіді чат-ботів.
Для досягнення цієї мети вони ретельно порівняли китайські тексти з медіа, які підпорядковані державі, з відкритими наборами даних, що використовуються для навчання мовних моделей.
Загалом було виявлено близько 3,1 мільйона китайськомовних документів, які мали значні співпадіння з такими текстами.
Більше того, було зазначено, що комерційні моделі фактично відтворювали характерні вирази з державних медіатекстів, що вказувало на ймовірну присутність подібних матеріалів у їхніх навчальних даних.
Схожу тенденцію було помічено й у комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм ставили ідентичні запитання щодо політики Китаю китайською та англійською мовами, відповіді китайською частіше демонстрували більшу прихильність до влади КНР. А при порівнянні 37 країн, моделі частіше давали прихильніші до місцевих урядів відповіді мовами країн із суворішим медіаконтролем, ніж англійською.
Поділитися