Компанія Google відреагувала на розслідування The Guardian і тимчасово вимкнула функцію AI Overviews для кількох конкретних медичних запитів.
Повідомляє видання GALERA.NEWS, посилаючись на Tech Crunch.
Йдеться про запити щодо нормальних показників печінкових проб, зокрема:
- який нормальний діапазон аналізів крові на печінку
- нормальні показники печінкових проб
Розслідування показало, що штучний інтелект видавав узагальнені числові значення без урахування віку, статі, етнічної приналежності, вагітності чи супутніх захворювань. Це могло вводити користувачів в оману та відтерміновувати звернення до лікаря.
Google пояснив, що після перевірки внутрішньою командою лікарів більшість відповідей визнали коректними та підкріпленими авторитетними джерелами. Проте в деяких випадках бракувало важливого контексту, тому функцію швидко вимкнули для зазначених формулювань.
При невеликих змінах запиту функція AI Overviews все ще може з’являтися. Це вже не перший випадок, коли Google обмежує генеративні підсумки в чутливих медичних темах через потенційні ризики для здоров’я.
Компанія продовжує вдосконалювати алгоритми та посилювати захист у сфері охорони здоров’я, однак дискусія про безпечність використання ШІ для медичних рекомендацій триває.
