Microsoft представила нові засоби безпеки для контролю агентів штучного інтелекту у корпоративних системах, попереджаючи про потенційні загрози зсередини організації.
Компанія підкреслює, що автономні агенти, навіть якщо їх використовують працівники, можуть становити ризик, і тому передовим моделям штучного інтелекту не можна повністю довіряти.
Одним із ключових нововведень є Guardian Agents — інструмент для моніторингу поведінки ШІ-агентів, розроблений у межах Project Perception, який був представлений у червні.
Проект передбачає три типи агентів: «червоні», що імітують дії хакерів, «сині», які виявляють атаки, та «зелені», що допомагають їх усувати, але тепер акцент робиться на ризиках, пов’язаних із впровадженням агентів у компаніях.
Генеральний директор Microsoft Сатья Наделла закликав бізнес не покладатися лише на запевнення розробників ШІ щодо безпеки, наголошуючи на необхідності самостійного контролю за поведінкою агентів.
Окрім Guardian Agents, Microsoft додала до Microsoft Defender функцію виявлення ШІ-агентів, що дозволяє розпізнавати до 60 типів інструментів та обмежувати доступ агентів до даних, що має допомогти контролювати автоматизовані інструменти.
