Невидимый код уже влияет на принятие решений, задолго до того как машины начинают хоть как‑то напоминать сознательные системы. Рекомендательные алгоритмы, рекламные биржи и скоринговые движки фактически выступают архитекторами выбора: они определяют, что люди видят, что покупают и во что верят. Их сила не в осознанности, а в масштабе: миллионы микротолчков, настроенных на основе огромных массивов поведенческих данных.
Эти системы эксплуатируют хорошо изученные когнитивные искажения, такие как склонность к подтверждению собственных взглядов и неприятие потерь, используя приемы из поведенческой экономики и обучения с подкреплением. Ими управляют не намерения, а функции оптимизации: максимизировать время просмотра, клики, конверсии. По мере того как обратные связи усиливаются, беспорядок в информационной среде не уменьшается: внимание концентрируется вокруг крайностей, которые лучше всего подпадают под тренировочный сигнал.
Регуляторы по‑прежнему сосредоточены на гипотетически разумных машинах, хотя уже сегодня бессознательные алгоритмы определяют доступ к кредитам, влияют на найм и политическую коммуникацию. Их непрозрачность, усиленная сетевыми эффектами данных, создает фактический барьер для конкурентов, укрепляет позиции доминирующих платформ и смещает баланс сил без прямого принуждения. Настоящая граница здесь не в том, чтобы машины «проснулись», а в том, чтобы общества научились выстраивать отношения с системами, которым в сознании просто нет нужды.
