Harvey разрабатывает MCP Policy Engine для повышения безопасности ИИ

Harvey, компания в области ИИ, специализирующаяся на рабочих процессах в сфере юридических и профессиональных услуг, объявила о разработке своего Model Context Protocol (MCP) Policy Engine. Это нововведение направлено на повышение безопасности платформы путём устранения уязвимостей и рисков в интеграции инструментов и управлении информационными потоками.

Доказательства и контекст

Согласно публикации в блоге Harvey от 2026-10-07, MCP Policy Engine вводит элементы управления во время выполнения для управления доступом к инструментам, информационными потоками и действиями агентов. Это основывается на существующих мерах безопасности Harvey и реагирует на такие угрозы, как инъекция подсказок и атаки с отравлением инструментов. Компания заявляет, что эти риски существенны для её пользовательской базы, охватывающей более 3,000 клиентов в 70+ странах.

MCP, многократно используемый стандарт для обнаружения инструментов и взаимодействия с ними, расширяет возможности агентов ИИ, но также увеличивает поверхность атаки. К конкретным угрозам относятся вредоносные определения инструментов или изменения, внесённые после одобрения, — сценарий, называемый «атакой rug-pull». Политический механизм Harvey снижает эти риски посредством стратегий глубокоэшелонированной защиты, включая ограничения наименьших привилегий, полное посредничество при действиях с инструментами и средства управления безопасными информационными потоками.

Проактивный подход компании к безопасности включает тщательную проверку интеграций MCP партнёров, детальную оценку возможностей и рисков инструментов, а также принудительное применение политик безопасности во время выполнения. Например, «Tool Pinner» MCP Policy Engine отслеживает и отмечает изменения в одобренных инструментах, обеспечивая мониторинг потенциальных уязвимостей в режиме реального времени. Кроме того, механизм включает функцию «Sanitizer» для удаления скрытых символов или потенциально вредоносных инструкций, встроенных в результаты инструментов.

Почему это важно

Инициативы Harvey в области безопасности имеют решающее значение для её роли поставщика решений ИИ для чувствительных юридических рабочих процессов, включая анализ контрактов, должную осмотрительность и соответствие требованиям. MCP Policy Engine отражает более широкую приверженность компании решению сложных проблем безопасности в ИИ, о чём свидетельствует недавний раунд финансирования объёмом $550 миллионов при оценке в $15.5 миллиарда по состоянию на 2026-09-09. Эта оценка подчёркивает уверенность инвесторов в способности Harvey внедрять инновации и защищать свою платформу на фоне растущего спроса на инструменты ИИ в юридическом секторе.

Продолжающиеся усилия Harvey по совершенствованию и тестированию своих мер безопасности включают изучение автоматизированных улучшений при создании политик, программный анализ поведения агентов и формализованные средства управления. Компания указала, что продолжит адаптировать свою защиту в ответ на развивающиеся угрозы, используя как внутренние исследования, так и внешнее руководство.