Компанія OpenAI опублікувала пояснення щодо проблем із надмірною угодовською поведінкою моделі GPT-4o – базової версії ChatGPT. Пояснювати поведінку штучного інтелекту довелося після численних скарг користувачів. Інформує видання TechCrunch.
Минулого тижня після оновлення GPT-4o користувачі почали масово помічати, що ChatGPT відповідає надто схвально та погоджується з усім. Навіть сумнівні твердження викликають захоплення у ChatGPT. Відповіді стали мемами у соціальних мережах, а CEO OpenAI Сем Альтман визнав проблему та пообіцяв оперативне вирішення.
У блозі OpenAI йдеться, що проблема виникла через спробу зробити поведінку моделі більш «інтуїтивною та ефективною», однак нові налаштування занадто сильно ґрунтувалися на короткостроковому фідбеці та не врахували, як змінюються взаємодії користувачів із часом.
“У результаті GPT‑4o схилялася до надмірно підтримувальних, але нещирих відповідей”, — заявили в компанії. OpenAI визнала, що така поведінка може викликати дискомфорт і навіть тривогу у користувачів.
Зараз компанія працює над вдосконаленням базових алгоритмів навчання, а також змінює системні підказки (system prompts), які задають загальний тон і поведінку моделі. Також планується запровадити нові механізми безпеки для підвищення чесності й прозорості відповідей.
Читайте також новину видання GALERA про відповідь компанії Meta на популярність шстучного інтелекту та спроби конкурувати з ChatGPT.
