Компанія Microsoft оголосила про новий відкритий стандарт Agent Control Specification (ACS). Він допоможе розробникам контролювати роботу ШІ-агентів у різних застосунках і середовищах.
Проблема контролю агентів
ШІ-агенти стають дедалі складнішими та активно використовуються в застосунках, робочих процесах і продуктах. Водночас виникає потреба в єдиному контролі їхньої поведінки після розгортання в різних системах.
ACS дозволяє задавати правила для агентів і перевіряти їх виконання. Правила визначають дозволені та заборонені дії, випадки, коли потрібне схвалення людини, а також дані для подальшої перевірки. Політики перевіряються в кількох контрольних точках під час виконання завдань.
Єдиний підхід до керування
Раніше розробники застосовували різні методи: інструкції в системних підказках, власні перевірки в коді або класифікатори. Такі рішення часто залишалися розрізненими та складними для повторного використання.
Новий стандарт створює єдиний рівень керування. Він підтримує перевірки до отримання вхідних даних, перед викликом інструмента, після отримання результату та перед надсиланням фінальної відповіді. Політика може дозволити або заблокувати дію, приховати конфіденційну інформацію чи вимагати підтвердження від людини.
Розробники можуть додавати класифікатори для аналізу даних або використовувати мовні моделі як суддів для оцінки дотримання правил. Політики зберігаються в одному файлі, тому їх легко переносити між середовищами та фреймворками.
Microsoft випускає ACS у вигляді SDK. Стандарт уже підтримує платформи LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel та Microsoft.Extensions.AI.
Leave a Reply