AWS направляет ящик, чтобы держать агентов ИИ под контролем

Агенты искусственного интеллекта не только отвечают на вопросы, они могут читать файлы, запускать команды терминала, подключаться к API и обслуживать несколько инструментов. Однако эти таланты также создают новые риски безопасности, если агенты совершают неправильную транзакцию или используют их в неожиданных форматах.

Веб-сервисы Amazon (AWS)В выпуске был анонсирован инструмент безопасности с открытым исходным кодом под названием Strands Box. Проект, выпущенный с предварительным мониторингом разработчика 7 октября 2026 года, направлен на ограничение файлов, команд и сетевых соединений, к которым могут получить доступ агенты ИИ. Автомобиль, предлагаемый по лицензии Apache 2.0, сочетает в себе изоляцию на уровне операционной системы с языком политики под названием Dogwood.

Основное различие в подходе AWS заключается не только в том, что агент может получить доступ к каким ресурсам, но и пытается контролировать, какие процессы могут сделать при доступе к этим ресурсам и как повлиять на следующие действия предыдущего поведения. Таким образом, разработчики могут выявить более детальные правила, не оставляя при этом безопасности агентов искусственного интеллекта только при правильном применении модели.

Что такое коробка Strands и как она работает?

нити Box - это песочница, разработанная для запуска агентов искусственного интеллекта в определенных пределах доступа. Это изолированная рабочая среда. Автомобиль также реализует политики обработки, такие как выполнение команд, выполнение кода Python, сетевые запросы и использование протокола Model Context Protocol (MCP).

Чтобы понять, как агенты ИИ используют инструменты, как они выполняют задачи и взаимодействуют с внешними системами. рабочая логика агентов искусственного интеллекта Также проверьте, какая коробка отвечает требованиям безопасности.

Когда считывание файлов или сетевое соединение обеспечивается в традиционных подходах безопасности, может потребоваться дополнительное оборудование для детальной проверки того, какие условия этого разрешения могут быть использованы. нити Box стремится объединить ограничения доступа и политики транзакций в одной архитектуре.

Изоляция операционной системы и проверка политики дома

Архитектура Strands Box основана на двух основных слоях:

• Управление на уровне операционной системы ограничивает файлы, программы, к которым агент может получить доступ, и сетевые ресурсы, к которым он может получить доступ.

• Аудит политики: Догвуд оценивает процессы, которые агент хочет выполнить по указанным правилам. Процедура может быть заблокирована, если она не соответствует действующему правилу разрешения.

Это различие важно. Это не означает, что агент может прочитать определенный файл, тогда он должен быть отправлен на любой интернет-адрес после прочтения файла. нити Box позволяет создавать правила, которые могут учитывать предыдущие действия вместо независимой оценки различных транзакций.

Что такое политика Dogwood?

Догвуд, используемый в слое безопасности Strands Box, является открытым языком политики и инфраструктуры оценки, разработанной AWS. Система позволяет разработчикам определить, какая обработка будет разрешена или заблокирована в каких условиях.

Одним из основных моментов Dogwood является то, что он может создавать правила во времени и прошлых действиях. Например, может быть написана политика, которая не позволяет агенту отправлять HTTP-запрос после чтения определенного файла. Точно так же количество транзакций, которые агент может выполнить в течение определенного времени, может быть ограничено.

Этот подход позволяет политикам безопасности подключаться только к одной команде или соединению, а не к действиям, которые происходят с помощью различных инструментов.

Зачем нужен новый подход к управлению агентами ИИ?

Автономные системы ИИ могут выполнять несколько шагов назад для достижения заданной цели. Агент по разработке программного обеспечения может изменять код, запускать тесты и проверять сообщения об ошибках. Агент ИТ-операции может считывать записи журналов, проверять статус службы и отправлять уведомления по командным каналам связи.

Выполнение агентов в изолированных средах может быть недостаточным. Событие о том, что агент искусственного интеллекта имеет доступ к различным услугам, спасаясь от среды песочницыЗамечательный пример, который показывает, что ограничения доступа и политики безопасности должны рассматриваться вместе.

Риск в таких рабочих процессах вызван не только одной неправильной командой. Процессы, выполняемые агентом, могут привести к большим результатам, чем ожидалось от разрешений, которые агент первоначально имеет.

Например, исследуя проблему в производственной среде, агент может оказаться вне записей, необходимых для просмотра или изменения важных файлов с неправильно структурированной командой. Агент с сетевым доступом может попытаться отправить конфиденциальные данные в несанкционированный пункт назначения.

Таким образом, управление агентом ai не ограничивается только обеспечением точного ответа модели. Авторизация доступа, лимиты транзакций, сетевые политики и аудиторские записи также должны быть частью системы безопасности.

Одно разрешение не должно иметь неограниченное разрешение

Подход Strands Box направлен на сужение объема разрешения, предоставляемого агенту. Например, это не значит, что операционный агент может считывать журналы CloudWatch, изменять производственную инфраструктуру.

В этом случае разработчик может ограничить операции по изменению инфраструктуры, позволяя агенту получить доступ к соответствующим ресурсам AWS. Точно так же частота отправки определенных сообщений может быть проверена, даже если разрешение доступа к инструменту связи.

В примере, приведенном в официальном объявлении AWS, агент вмешательства в события обращается к политике, которая позволяет каналу Slack отправлять до трех успешных обновлений за 10 минут. Агент может продолжить исследование, но четвертая доставка заблокирована из-за указанного лимита.

Такие правила позволяют агенту применять систему ограничений вместо того, чтобы полагаться на свои пределы безопасности на каждом шагу.

Какие функции безопасности предлагает коробка Strands?

нити Box предназначен для управления несколькими типами транзакций через общую политическую инфраструктуру. Особенности для разработчиков включают в себя:

Ограничение доступа к файлам и командам

Агент может быть настроен на то, какие каталоги могут читать или изменять, и какие программы могут запускать. Таким образом, когда агенту кодирования разрешено работать с файлами проекта, доступ к незаинтересованным каталогам может быть ограничен.

Удаление сетевых запросов

нити Box проводит аудит сетевых запросов. Правила могут быть созданы с помощью таких деталей, как разрешенные цели, методы HTTP и конкретные пути запроса.

Эта функция важна для обеспечения того, чтобы агент общался только с необходимыми ему услугами. В частности, ограничение доступа к сети в корпоративных средах может помочь снизить риск передачи конфиденциальных данных из неконтролируемых источников.

Контроль MCP Инструменты

Model Context Protocol - это протокол, который позволяет моделям искусственного интеллекта подключаться к внешним транспортным средствам и источникам данных. Инструменты, доступные через серверы MCP, создают новые точки доступа с точки зрения безопасности, расширяя возможности агента.

нити Box может включать в себя поддерживаемые MCP-инструменты для управления политикой. Таким образом, разработчики также могут ограничить не только общий доступ агента, какими условиями могут называться используемые транспортные средства.

Защита идентификационной информации

Переключатели API и облачная идентификационная информация являются важной темой в безопасности агентов искусственного интеллекта. Прямой агент этой информации может улучшить эффект неправильного поведения или злоупотребления.

Шлюз Strands Box может добавлять структурированную информацию ID к разрешенным запросам. Этот подход, который также поддерживает подписание в сценариях аутентификации AWS, направлен на предотвращение открытия реальной секретной информации непосредственно самому агенту.

Однако одной лишь защиты идентификационной информации недостаточно. Учреждениям нужны разрешения IAM, доступ к сети и аудиторские записи.

Какая область использования коробки может принести пользу?

Подход Strands Box имеет смысл в процессах разработки и ИТ-операции, особенно при взаимодействии с несколькими системами и использовании агентов, которые могут обрабатывать сами себя.

Разработка программного обеспечения и агенты кодирования

Кодирующие агенты могут создавать файлы, изменять существующий код, загружать зависимости и запускать команды терминала. Эти таланты также могут улучшить влияние больших разрешений доступа от неправильных команд или требований, ускоряя процесс разработки.

нити Коробка может обрабатывать кодирующие агенты только в обозначенной рабочей зоне и выполнять поддерживаемые команды в рамках указанных правил. Таким образом, разработчики могут установить более контролируемый баланс между производительностью и безопасностью.

Облако и ИТ-операции

Менеджеры облачных вычислений могут использовать агенты искусственного интеллекта для изучения состояния инфраструктуры или исследовательских мероприятий. Однако эти агенты могут измениться в производственной среде, привести к неправильному решению об отказе в обслуживании.

При чтении ежедневных записей с помощью Strands Box разрешается ограничиваться изменениями ресурсов. Такой подход может быть полезен для операционных агентов, особенно на первом этапе только для наблюдения и анализа.

Корпоративная автоматизация и вмешательство в события

Агенты могут собирать информацию из разных источников, информировать команды и запускать определенные рабочие процессы. Политики, учитывающие прошлые действия Strands Box, могут помочь ограничить повторные транзакции или уведомления о сверхурочных.

Такие правила в корпоративной автоматизации способствуют более предсказуемой работе систем. Он защищает важность человеческого одобрения и отдельных механизмов авторизации в критических изменениях.

Какие ограничения доступны в коробке Strands?

Разработчик Strands Box был опубликован предварительным мониторингом, который показывает, что автомобиль все еще находится в стадии созревания. Объявление AWS и Магазин проекта GitHubЭто один из основных ресурсов для оценки существующей модели охвата и безопасности.

Поддержка операционной системы ограничена

Во время анонса Strands Box предлагается для macOS 15 и более поздних версий на компьютерах Mac с процессором Apple Silicon. Поддержка Linux планируется, но дата расширенной поддержки платформы не раскрывается.

AWS заявляет, что в будущем политики Strands Box будут ориентированы на перенос в таких средах, как Amazon Bedrock AgentCore, Amazon ECS и Kubernetes. Эти цели не означают, что текущая версия может использоваться на той же платформе.

Аудит охватывает каждый процесс

Существенное ограничение Strands Box не контролирует каждый процесс. Например, некоторые файлы, к которым агент напрямую обращался через свою собственную инфраструктуру транспортного средства, могут не отражать историю работы Dogwood таким же образом.

Кроме того, в надежном процессе комментаторов оболочки и Python работа вне предела песочницы является направлением, которое архитектурное должно быть тщательно оценено с точки зрения безопасности. Эта конструкция расширяет область применения надежных компонентов, обеспечивая при этом определенные преимущества для проверки политики.

Ложная политика создает новые проблемы

Сверхограничительные правила могут помешать агенту выполнять необходимые процессы и повысить операционную сложность. Большие разрешения от правды могут снизить ожидаемые выгоды от безопасности.

Поэтому политики разработчиков должны не только тестировать на успешные сценарии, неожиданные команды, сетевые подключения и ситуации ошибок.

нити Коробка должна оцениваться как система, которая решает все проблемы безопасности в одиночку, а не как слой управления, добавленный к существующей архитектуре безопасности.

Другие подходы к безопасности Strands Box и AWS

нити Box фокусируется на ограничении поведения агентов в локальной среде разработки, в то время как платформа AWS Amazon Bedrock AgentCore предлагает различные механизмы безопасности для работы и защиты агентов в управляемых рабочих средах.

Amazon Bedrock Агентские документыВ нем рассматриваются такие вопросы, как идентификация и управление доступом, изоляция, шифрование и аудит. Некоторые рабочие модели AgentCore Runtime предпочитают изоляцию на уровне операционной системы в локальной среде разработки Strands Box при использовании микровиртуальных машин на базе Firecracker для сеансов.

Эти два подхода могут способствовать различным слоям одной и той же цели. нити Коробка играет роль в изоляции и распределении рабочей среды, управляемых инфраструктур типа AgentCore, ориентируясь на то, в каких условиях выполняются те или иные операции. Однако это зависит от подлинной поддержки и конфигурации предполагаемой интеграции, которую можно использовать вместе с этими системами.

Основной проблемой для корпоративных команд является не только выбор песочницы; аутентификация, принцип минимальных привилегий, сетевая политика, удержание записей и контроль со стороны человека.

Что представляет собой коробка Strands для Otonom AI Security?

Распространенность автономных агентов выделяется новым приоритетом в области безопасности программного обеспечения: не только то, кто такие системы и к каким ресурсам они могут получить доступ, но и то, как они используют этот доступ.

нити Box стремится удовлетворить эту потребность, предлагая общие механизмы аудита между политиками и различными инструментами, основанными на прошлых действиях. Открытый исходный код позволяет разработчикам пересмотреть модель безопасности, адаптировать правила и внести свой вклад в проект.

Системы на основе агентов должны планировать несколько шагов для достижения своих целей и адаптировать подход безопасности к этому уровню. Агентский искусственный интеллект (Agentic AI)Формат работы и области корпоративного использования этих систем более подробны.

Однако работа агента в песочнице не исключает всех рисков. Агент также может давать ложные результаты с помощью допустимого процесса; плохо разработанные политики не могут блокировать критические действия или нарушать законные рабочие процессы. Автономная безопасность ИИ требует вмешательства человека, а также технической изоляции, хорошо продуманной политики авторизации, мониторинга и необходимости.

Основная ценность Strands Box для разработчиков заключается в попытке преобразовать безопасность в применимые правила, а не только в ожидании поведения агента. Поддержка транспортного средства в большем количестве операционных систем будет важным фактором, который может нести политику в различные среды распространения и оценивать производительность при использовании в производстве, определять общее принятие.

Часто задаваемые вопросы

Что такое коробка Strands?

нити Box - это инструмент песочницы с открытым исходным кодом, разработанный для ограничения доступа файлов, команд, сетей и поддерживаемых транспортных средств к агентам искусственного интеллекта. Операционная система сочетает в себе изоляцию с языком политики Догвуда.

Является ли Strands Box бесплатным?

Проект был опубликован под лицензией Apache 2.0. Эта лицензия позволяет использовать, заменять и распространять программное обеспечение с регистрацией условий лицензии. Однако облачные сервисы или инфраструктуры, используемые транспортным средством, также могут создавать стоимость.

Какие операционные системы поддерживает коробка Strands?

Версия предварительного мониторинга, доступная в соответствии с анонсом и проектной документацией, поддерживает macOS 15 и выше на компьютерах Mac с процессором Apple Silicon. Поддержка Linux планируется, но дата публикации не уточняется.

Может ли Strands Box работать с каждым агентом искусственного интеллекта?

нити Коробка предназначена для того, чтобы не зависеть от конкретного агента кадра. Однако команды, инструменты и доступ агента должны быть совместимы с поддерживаемыми механизмами аудита. Поэтому самостоятельный дизайн из кадра не означает, что каждый агент управляется автоматически.

Является ли Strands Box полным препятствием для агентов искусственного интеллекта?

Нет. Транспортное средство помогает применять определенные политики доступа и транзакций, но агент не полностью блокирует неправильное решение в разрешенных пределах. IAM для безопасного использования, мониторинга, тестирования, аудита и принципа минимальных привилегий должны применяться вместе.