Штучний інтелект (ШІ) стрімко розвивається, викликаючи як захоплення, так і занепокоєння серед фахівців та користувачів. Дослідження провідних компаній та експертів вказують на потенційні ризики, пов’язані з впровадженням ШІ у різні сфери життя.
Google DeepMind про ризики, пов’язані з розвитком AGI
Компанія Google DeepMind опублікувала детальний звіт, у якому розглядаються можливі небезпеки, пов’язані з розвитком загального штучного інтелекту (AGI) – itc.ua. Серед основних ризиків виділяються:
- Неправильне використання: AGI може бути застосований для створення кіберзброї або біологічних загроз.
- Розбіжності: Машина може діяти всупереч намірам розробників, виконуючи небажані дії.
- Помилки: Непередбачувані збої в роботі AGI можуть призвести до серйозних наслідків.
- Структурні ризики: AGI може сприяти поширенню дезінформації та отримати надмірний контроль над економічними та політичними системами.
Для мінімізації цих ризиків рекомендується всебічне тестування, створення надійних протоколів безпеки та поступове впровадження AGI з обмеженими можливостями.
Microsoft про вплив ШІ на критичне мислення
Дослідження, проведене Microsoft та Університетом Карнегі-Меллона, виявило, що надмірне використання систем ШІ може знижувати навички критичного мислення – itc.ua. У рамках дослідження науковці опитали 319 працівників, що займаються обробкою даних за допомогою ШІ. Опитані заявили, що під час виконання 40% завдань взагалі не використовували критичне мислення.
Це свідчить про зростаючу залежність від підказок ШІ та зменшення активної участі користувача у процесі прийняття рішень. Дослідники також зазначають, що найбільш активні користувачі ChatGPT настільки звикли до використання цієї системи, що проведений без неї час викликає у них симптоми, схожі із синдромом відміни. Це піднімає нові питання щодо психологічного впливу ШІ та формування нових форм цифрової залежності.
Зловживання ШІ зловмисниками
Зі свого боку, українські IT-спеціалісти наголошують на необхідності обережного використання ШІ, враховуючи потенційні загрози для конфіденційності та безпеки даних – unian.ua. Вони підкреслюють важливість розробки етичних стандартів та регуляторних механізмів для контролю за розвитком і застосуванням ШІ. Серед основних загроз:
- Обхід автентифікації: Використання діпфейків для отримання несанкціонованого доступу.
- Злам корпоративної електронної пошти: Маніпуляції з метою фінансових махінацій.
- Шахрайство з видаванням себе за іншу особу: Створення фальшивих облікових записів для обману користувачів.
- Дезінформація: Створення підробленого контенту для введення в оману громадськості.
Ці загрози підкреслюють важливість підвищення обізнаності користувачів та впровадження заходів кібербезпеки.
Видання GALERA зазначає, що ШІ має значний потенціал для покращення різних аспектів життя, але його неконтрольоване використання може призвести до серйозних наслідків. Необхідно розробляти та впроваджувати етичні стандарти, забезпечувати безпеку та сприяти розвитку критичного мислення серед користувачів для гармонійного співіснування з новими технологіями.
