OpenAI анонсувала Decisions API — новий інструмент, який дозволяє AI-моделі швидко вибирати один із заздалегідь визначених варіантів. Такий підхід може знизити витрати на автоматизацію та потенційно використовуватися для контролю дій автономних AI-агентів.
Повідомляє видання GALERANEWS, посилаючись на TechCrunch.
Про Decisions API розповів генеральний директор OpenAI Сем Альтман під час Dev Day. За його словами, API дає змогу передати моделі Luna набір можливих варіантів, між якими вона повинна зробити вибір. Це може бути, наприклад, категоризація зображення або визначення наступної дії AI-агента.
OpenAI стверджує, що обмеження завдання конкретним набором варіантів дозволяє значно прискорити роботу моделі. Водночас вона зберігає такі можливості, як аналіз зображень, підтримка різних мов та вбудовані механізми безпеки.
За принципом роботи Decisions API нагадує Jev — модель стартапу TypeSafe AI, представлену раніше у вересні. Jev створена спеціально для програмної автоматизації: розробник задає набір можливих відповідей, а система швидко повертає ймовірності для кожної з них. Такий підхід має бути дешевшим за використання повноцінної великої мовної моделі для кожного окремого рішення.
Наскільки Decisions API технічно схожа на Jev, поки невідомо. OpenAI випустила інструмент у режимі обмеженого попереднього доступу, тому даних про його практичну продуктивність і результати незалежного тестування наразі недостатньо.
Одним із потенційних сценаріїв для таких моделей може стати контроль AI-агентів. OpenAI вже використовує окрему модель для виявлення небезпечних або небажаних дій своїх агентів, однак такий моніторинг потребує значних обчислювальних ресурсів. Швидша модель прийняття рішень теоретично може перевіряти кожну дію агента з меншими витратами.
Практичний приклад такого підходу продемонстрував керівник стартапу QueryStory Шапор Нагібзаде. Створена ним система на базі Jev порівнює кожну дію AI-агента з поставленим завданням: потенційно небезпечні операції блокуються, сумнівні передаються на додаткову перевірку, а решта виконуються без втручання.
За наведеними у матеріалі розрахунками, такий моніторинг із Jev коштував $2,94 проти $372 у разі використання передової великої мовної моделі. Водночас ключовим питанням для Decisions API, Jev та аналогічних систем залишається не лише швидкість і вартість, а й точність їхніх рішень у реальних сценаріях.
