Двадцять п’ять провідних математиків підписали відкритого листа із застереженням щодо впливу AI-лабораторій на наукові дослідження. Науковці вважають, що гонитва компаній за розв’язанням відомих математичних задач за допомогою штучного інтелекту створює проблеми з авторством, перевіркою результатів і може підштовхнути дослідників до більшої закритості.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Усі 25 підписантів листа є лауреатами Медалі Філдса — однієї з найпрестижніших нагород у математиці. Науковці не заперечують потенційну користь AI для розв’язання складних математичних проблем, однак наголошують, що отримані результати мають бути зрозумілими, належним чином оформленими та доступними для перевірки математичною спільнотою.
Однією з головних претензій стало те, що результати за участю AI можуть оголошувати надто швидко — до підготовки повноцінного математичного опису, виокремлення нових методів та належного посилання на попередні роботи. Це, на думку підписантів, створює серйозні питання щодо авторства та можливого плагіату.
Дискусія загострилася після конфлікту навколо OpenAI. Професор NYU Трістан Бакмастер звинуватив компанію в тому, що вона нібито тиснула на нього, аби він не зазначав внесок співавтора з Anthropic у розв’язання важливої математичної задачі. Він також поставив питання, чи могла OpenAI використати їхню роботу з Codex під час створення власного доказу. На момент публікації матеріалу цей доказ залишався неперевіреним.
Ще одним епізодом конфлікту стало рішення OpenAI відмовитися від спонсорства математичного заходу в CalTech після критики з боку дослідників університету. Ситуація посилила ширшу дискусію про те, як технологічні компанії мають взаємодіяти з академічною спільнотою в умовах стрімкого розвитку AI.
Математики також побоюються, що конкуренція з великими AI-компаніями може змінити культуру відкритих досліджень. Великі лабораторії мають ресурси, щоб витрачати десятки мільйонів доларів на обчислення та застосовувати великі мовні моделі для пошуку доказів. Якщо компанія помітить перспективний напрям дослідження, вона потенційно може отримати результат раніше за науковців, які спочатку працювали над проблемою. Автори листа вважають, що така ситуація може стимулювати дослідників приховувати незавершені роботи.
Нинішній лист продовжує дискусію, розпочату Лейденською декларацією, яку робоча група математиків оприлюднила в червні. У документі також розглядається вплив доказів, створених за допомогою великих мовних моделей, та запропоновані рекомендації для математиків, наукових установ і політиків.
Підписанти наголошують, що проблема виходить за межі математики. Подібні зміни вже відбуваються в програмуванні, науці та творчих професіях, де AI дедалі активніше бере участь у робочих процесах. На думку математиків, ключове питання полягає не лише в тому, чи здатний штучний інтелект отримати правильний результат, а й у тому, як зберегти механізми перевірки, передачі знань та визнання внеску людей у процесі створення нових ідей.
