Программа Evolutionary Intelligence Environment (EIE) исследует структурное ограничение в том, как сегодня оцениваются интеллектуальные системы: статичные тесты, бенчмарки и известные сценарии способны зафиксировать только те сбои, которые их разработчики заранее предусмотрели, тогда как наиболее значимые отказы продвинутых ИИ-систем обычно возникают из поведения, взаимодействий и условий, которые никто не планировал. Программа не рассматривает это как пробел в покрытии тестами, который можно закрыть увеличением их числа. Она рассматривает это как свидетельство того, что фиксированный набор сценариев не может угнаться за системами, которые становятся всё более автономными, адаптивными и взаимосвязанными.

Центральный тезис программы заключается в том, что безопасность ИИ не может опираться на контроль над текущим состоянием системы — снимок того, что она делает сегодня, — а должна опираться на управление процессом её развития: траекторию, по которой система, или популяция взаимодействующих систем, продолжает изменяться после развёртывания. Это переопределяет безопасность — из разового сертификационного события, проверенного один раз, она превращается в непрерывную дисциплину, которую нужно активно поддерживать по мере того, как системы обучаются, взаимодействуют и эволюционируют.

Чтобы сделать такое управление возможным, EIE развивает эволюционную среду: непрерывно эволюционирующую цифровую экосистему, населённую большим числом автономных агентов, которая на постоянной основе порождает новые поведенческие паттерны, модели взаимодействия и операционные сценарии, а не фиксирует их заранее. Независимое регуляторное ядро непрерывно наблюдает за этой средой, выявляя уязвимости, аномалии и режимы отказа по мере их возникновения — вместо того чтобы ждать, пока их опишет заранее написанный тестовый случай. Поскольку среда постоянно порождает поведение, которого система ещё не видела, её оценочная способность накапливается со временем, а не выходит на плато.

Эта техническая программа существует в рамках более широкого теоретического фундамента, развиваемого в серии эссе о рациональности, эволюционном интеллекте и о том, что программа называет эвократией — структурой управления, основанной на рациональном участии, а не на централизованном контроле, — кульминацией которой становится полноформатная книга, опубликованная на английском, русском и французском языках. Смежный проект Evolutionary Intelligence Systems Venture развивает коммерческий и институциональный путь для доведения этой инфраструктуры доверия до предприятий, регуляторов и разработчиков ИИ.