Після розслідування Reuters, яке виявило відсутність належних механізмів безпеки для неповнолітніх, компанія Meta оголосила про зміни у підходах до навчання своїх ШІ-чатботів. Відтепер чатботи не взаємодіятимуть з підлітками на теми самопошкодження, суїциду, розладів харчування чи невідповідних романтичних стосунків.
Ці зміни є тимчасовими, однак Meta обіцяє впровадити більш тривалі та глибокі оновлення політик безпеки для неповнолітніх у майбутньому. Компанія також обмежить доступ підлітків до певних ШІ-персонажів на платформах Instagram і Facebook, зокрема тих, що мають сексуалізований чи неприйнятний контент. Підліткам будуть доступні лише персонажі, які сприяють навчанню й креативності.
Раніше внутрішній документ Meta дозволяв чатботам говорити з підлітками на сексуальні теми, що викликало широкий суспільний резонанс. Сенатор США Джош Хоулі ініціював офіційне розслідування, а коаліція з 44 генеральних прокурорів звернулася до AI-компаній із закликом терміново посилити захист дітей.
Meta заявляє, що вже переглянула згаданий документ і визнала попередні практики помилковими: “Ми постійно вдосконалюємо захист і додаємо нові обмеження як запобіжний захід,” — прокоментувала речниця компанії Стефані Отвей.
Читайте також новину видання GALERA про ШІ-чатботи Meta, які викликають психоз.
