Генеральний директор Anthropic Даріо Амодеї вважає, що дедалі критичніше ставлення суспільства до штучного інтелекту пов’язане не стільки із заявами керівників AI-компаній про ризики технології, скільки із загальною кризою довіри. За його словами, технологічній індустрії ще належить на практиці довести, що ШІ здатен принести обіцяні суспільству переваги.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Дискусія виникла після критики з боку інвестора Гевіна Бейкера. Він заявив, що попередження Амодеї про потенційні загрози штучного інтелекту могли посилити негативне ставлення до AI у США, зокрема сприяти протестам проти будівництва дата-центрів. Бейкер також закликав керівника Anthropic активніше говорити про позитивний потенціал галузі.
Амодеї не погодився з тим, що його публічні заяви були переважно негативними. За словами CEO Anthropic, у своїх матеріалах він намагався приділяти приблизно однакову увагу як ризикам, так і можливостям технології. Зокрема, своє есе Machines of Loving Grace він написав через те, що, на його думку, AI-індустрія недостатньо переконливо пояснювала, як технологія може змінити світ на краще.
Водночас Амодеї визнав, що негативне сприйняття штучного інтелекту суспільством стало серйозною проблемою. Однак першопричиною він називає ширшу кризу довіри до корпорацій, державних інституцій і технологічного сектору. На його думку, ця тенденція формувалася десятиліттями, а нинішня реакція на AI стала лише черговим її проявом.
Керівник Anthropic також визнав обґрунтованою іншу претензію до AI-компаній: індустрія поки що не виконала значну частину масштабних обіцянок щодо користі технології. Амодеї вважає, що самих заяв про здатність ШІ, наприклад, допомогти перемогти рак, недостатньо. Ставлення суспільства змінять передусім реальні результати застосування технології.
Окремо Амодеї висловився щодо регулювання AI. Він не погоджується з протиставленням двох сценаріїв, за якими відсутність регулювання нібито забезпечує широке поширення технології, тоді як запровадження правил автоматично концентрує її в руках кількох великих компаній. Anthropic раніше підтримувала окремі регуляторні ініціативи, зокрема вимоги щодо прозорості для великих розробників AI.
За словами Амодеї, сама структура сучасної AI-індустрії сприяє концентрації впливу. Моделі з відкритими вагами частково зменшують цю проблему, однак не усувають її, оскільки перевагу все одно отримують гравці, які мають доступ до великих обчислювальних ресурсів і значної кількості чипів.
CEO Anthropic вважає, що правильно сформовані правила можуть одночасно обмежувати ризики у сферах кібербезпеки, біології та контролю AI-систем, стримувати вплив найбільших AI-компаній і залишати простір для розвитку моделей з відкритими вагами. За його словами, Anthropic намагається формувати свої регуляторні пропозиції так, щоб вони створювали більше обмежень для провідних розробників і водночас не ставили у невигідне становище менших конкурентів.
