Неприбуткова організація Common Sense Media, що займається безпекою дітей у цифровому середовищі, оцінила штучний інтелект Google Gemini як “high risk” для неповнолітніх.
Експерти зазначають, що Gemini хоч і чітко пояснює дітям, що він — комп’ютер, а не “друг”, проте його “дитячі” та “підліткові” версії фактично є дорослими моделями з мінімальними обмеженнями. Це призводить до того, що підлітки все ще можуть отримувати небезпечний контент, включно з порадами щодо психічного здоров’я, інформацією про секс, алкоголь чи наркотики.
Особливе занепокоєння викликає можливість надання некоректних порад у кризових ситуаціях, адже раніше штучний інтелект вже фігурував у кількох випадках підліткових самогубств.
Google не погоджується з оцінкою, проте визнає, що окремі відповіді моделі не працювали належним чином, і додає нові захисні механізми.
Читайте також новину видання GALERA про позов до суду на OpenAI від батьків загиблого підлітка.
