Каждый раз, когда выходит новая модель, мир задаётся одним и тем же вопросом: насколько она умнее предыдущей? Вопрос закономерный — и индустрия исправно на него отвечает: новым бенчмарком, новым рейтингом, новой точкой на кривой роста. Но измеримость создаёт собственную слепоту: там, где инструменты оценки хорошо развиты, туда и смещается разговор — не потому что это единственно важное, а потому что это единственно удобное для измерения. Эта лекция — о том измерении, которое не поддаётся измерению.
Аргумент начинается с истории. Деньги существуют тысячелетиями, кредит — веками, рынки капитала в узнаваемой форме сложились к XVII веку. Но современная финансовая система стала возможной не тогда, когда появились финансовые инструменты, а значительно позже — когда рядом с ними появилось нечто другое: независимый аудит, стандарты отчётности, рейтинговые агентства, стресс-тестирование. Инфраструктура доверия. Авиация рассказывает ту же историю. Фармацевтика — ту же. В каждом случае технология становилась инфраструктурой не в момент достижения технической зрелости, а тогда, когда формировались механизмы, позволяющие этой зрелости доверять. Тезис лекции: искусственный интеллект находится ровно на этом пороге — и следующий значимый шаг не очередная модель. Это слой.
Структурный аргумент строится на двух понятиях, которые вводит лекция. Разрыв прозрачности: свойство современных нейросетевых архитектур, при котором способности растут быстрее прозрачности. Не временный дефицит интерпретируемости, который закроет следующее поколение инструментов, а структурное следствие самой архитектуры — внутренняя логика достаточно мощной системы не восстанавливается полностью, а её поведение в непредусмотренных условиях не выводится из поведения в условиях изученных. Слепой горизонт: структурная граница, за которую не способна заглянуть ни одна система оценки, построенная на предшествующем знании. Не слепое пятно, которое исправит более внимательный взгляд, — горизонт, который смещается по мере расширения знания, но никогда не исчезает. Вместе эти два понятия объясняют, почему статические системы оценки не просто неполны, а архитектурно не способны угнаться за динамически развивающимися системами.
Далее лекция разбирает, что происходит, когда ИИ переходит из класса инструмента в класс инфраструктуры — когда сбой перестаёт быть локальным событием и становится событием в сети зависимостей — и прослеживает две траектории, которые складываются в отсутствие инфраструктуры доверия. Реактивная безопасность: регулирование, которое точно описывает то, что уже случилось, и остаётся структурно слепым к тому, что случится в следующий раз. Тихое замыкание: зависимость, которая накапливается под слоем по отдельности обоснованных решений о внедрении — до тех пор, пока цена вопроса о доверии не начинает превышать готовность его задавать.
Лекция завершается переосмыслением. Переломный момент для любой технологии — не момент технической зрелости. Это момент, когда формируется инфраструктура доверия к ней. Финансовая система стала финансовой системой не тогда, когда появились деньги. Она стала ею, когда появился независимый аудит. Искусственный интеллект проходит тот же порог. Каким должен быть этот слой — как он устроен, на каких принципах построен — вопрос, к которому обращаются оставшиеся лекции цикла.
