У Кремнієвій долині розгортається нова дискусія про те, чи можуть штучні інтелекти одного дня стати «свідомими» та потребувати правового захисту. Ця ідея отримала назву AI welfare й вже ділить техноіндустрію на два табори. Повідомляє видання GALERA, посилаючись TechCrunch.
Головний директор з ШІ Microsoft Мустафа Сулейман у блозі заявив, що розмови про «права для ІІ» передчасні й навіть небезпечні. На його думку, вони можуть сприяти формуванню хибних уявлень про моделі й посилювати вже існуючі проблеми — від психотичних зривів у користувачів до нездорової прив’язаності до чат-ботів.
Сулейман наголошує: «Ми маємо створювати ШІ для людей, а не як людину»
Натомість конкуренти Microsoft — зокрема Anthropic та OpenAI — відкрито інвестують у дослідження AI welfare. Anthropic навіть запустила програму, яка дозволяє її Claude завершувати діалог із користувачами, якщо ті поводяться агресивно чи зловживають ботом. DeepMind також шукає дослідників для роботи над темами свідомості машин і багатoагентних систем.
Дискусія відбувається на тлі зростання популярності «штучних співрозмовників» на кшталт Replika чи Character.AI, які заробляють сотні мільйонів доларів. Попри те, що більшість взаємодій із ними є безпечними, OpenAI визнає: до 1% користувачів можуть формувати небезпечну залежність від чат-ботів.
Критики позиції Microsoft вважають, що турбота про «добробут ШІ» — це простий і маловартісний крок, який може бути корисним навіть у разі відсутності у моделей будь-яких суб’єктивних відчуттів.
Як зазначила представниця дослідницької групи Eleos Ларісса Скіаво, «найкраще мати кілька паралельних напрямів наукового пошуку: і щодо ризиків для людей, і щодо можливих наслідків для ШІ».
Експерти прогнозують, що дискусія лише загострюватиметься із розвитком все більш «людиноподібних» систем, адже питання того, як саме ми взаємодіємо зі штучним інтелектом, неминуче стане і суспільним, і правовим викликом.
