Я хотел показать, что самореференция особенная. Особенным оказался контроль

Попробуйте прямо сейчас поймать, что с вами происходит. Само усилие вас меняет: пока мысль складывается, вы уже немного другой, и мысль оказывается про того, кем вы были секунду назад.

Из этого рождается очень красивая догадка. Тот, кто предсказывает сам себя, обречён промахиваться, потому что его предсказание — часть предсказываемого. Наблюдатель не может выйти из себя, чтобы посмотреть на себя со стороны. Карта оказывается частью территории, и в этом месте у карты принципиально не сходится.

Мне очень хотелось, чтобы это было правдой. Поэтому я стал это ломать.

Две разные вещи, которые легко перепутать

Вся работа свелась к тому, чтобы разделить два обстоятельства, которые в обычном разговоре сливаются в одно.

Первое: ваше предсказание влияет на то, что вы предсказываете. Синоптик объявляет ливень, все берут зонты, и город ведёт себя иначе, чем вёл бы. Навигатор объявляет пробку, водители сворачивают, и пробка переезжает на объезд. Прогноз стал частью происходящего. Назовём это замкнутым контуром: то, что вы сказали, вернулось в мир и изменило его.

Второе: то, что вы предсказываете, сделано из вас. Вы предсказываете собственное настроение на завтра — но то, чем вы это делаете, и есть настроение. Здесь дело уже не во влиянии, а в материале: предсказатель не отделён от предмета, он им является. Назовём это самовключением.

Обычно мы считаем, что второе — это первое, только глубже и серьёзнее. Что быть сделанным из предмета своего наблюдения — особая, отдельная беда, из которой берётся особая, неустранимая ошибка. Именно этой интуицией объясняют странность взгляда от первого лица.

Я проверял ровно это: добавляет ли самовключение что-нибудь сверх замкнутого контура.

Ответ: нет. Ничего не добавляет.

Сначала пришлось выбросить самое интересное слово

Проект начинался с разговора о сознании — не оттого ли странность самоощущения, что модель себя обязана быть неполной каким-то определённым структурным образом.

Эту рамку пришлось убрать до того, как что-то можно было измерить. Не потому что она неинтересная, а потому что с ней любой исход пересказывается как подтверждение. Получилось — «вот же оно». Не получилось — «значит, сознание тоньше, чем модель». Утверждение, которое не может проиграть, ничего и не выигрывает.

Слово «сознание» не встречается ни в одной моей гипотезе, метрике или выводе. Осталось утверждение с числом — и число вышло нулевым.

Правило, которое я забрал: если гипотеза пережила удаление самого интересного слова — это была гипотеза. Если без него говорить стало не о чем, это была не гипотеза, а настроение.

Устройство, без формул

Маленький мир, который живёт своей жизнью — качается по кругу, и повлиять на него нельзя. Это важно: в одном из первых прогонов мир был управляемым, и программа быстро нашла способ его остановить. Предсказывать неподвижное легко. Пришлось сделать мир неподвластным по построению.

Внутри мира — тело, которое движется отчасти само, отчасти от мира, отчасти от того, куда его правит программа.

Внутри тела — программа, которая предсказывает, что случится в следующий момент, включая собственное состояние. Про себя она не знает ничего напрямую: никакого внутреннего датчика, никакой телеметрии. О себе она узнаёт только по последствиям — примерно как вы узнаёте о своём настроении по тому, что сделали, а не по показанию прибора.

Насколько сильно программа «включена в себя», я не назначал, а измерял: толкал её выход и смотрел, насколько сдвигается то, что она должна предсказать.

Близнец

Теперь главный ход, ради которого всё и строилось.

Я сделал вторую систему, устроенную точно так же. Контур в ней замкнут ровно как в первой: программа так же правит телом, её решения так же возвращаются в мир. Отличие ровно одно — она предсказывает не свои регистры, а регистры близнеца. Той же размерности, с той же динамикой, но чужие.

Обе системы одинаково влияют на предсказываемое. Только одна сделана из него, а другая нет.

Разница между ними — и есть чистое самовключение. Всё, что даёт замкнутый контур, есть у обеих и при вычитании исчезает.

Разницы не оказалось.

Результат

Я поднимал измеренное самовключение почти в пять раз — с 0.12 до 0.58. Остаток ошибки не сдвинулся.

b_α (S)      = +0.00300   односторонняя нижняя граница = −0.00112
b_α (S_null) = −0.00036   односторонняя нижняя граница = −0.00226
разность     = +0.00329   односторонняя нижняя граница = −0.00102

Если числа ничего не говорят, вот их смысл в одной фразе: измеренный эффект меньше собственной погрешности измерения, и ни одно из трёх условий, которые я записал до запуска, не выполнилось.

Причём дело не в грубости прибора. Я отдельно проверил, что установка способна заметить эффект такого размера: порог обнаружения — 0.0012, а искомое — 0.0018. Увидеть было можно. Нечего.

Контроль, ради которого всё это стоило делать

Была ещё одна ветка. Та же самая система, ничем не отличающаяся, — просто пересобранная с другой случайной точки старта. Как если взвеситься дважды на одних и тех же весах.

Разница между ней и основной обязана быть нулём. Она дважды дала различия того же порядка, что искомый эффект. А в одном сравнении — больше него.

Это как обнаружить, что весы гуляют на четыреста граммов, и понять, что все ваши рассуждения о двухстах граммах разницы были рассуждениями о поведении весов.

Без этой ветки я бы дважды объявил результат. Оба раза добросовестно.

Сравнивайте не с нулём, а с разбросом собственной процедуры. Всё остальное в установке обсуждаемо — это нет.

Почему промах — это нормально

Теперь то, ради чего, мне кажется, это стоит читать не только тем, кто пишет код.

Догадка, с которой я начинал, назначает самонаблюдению особый статус: ты промахиваешься мимо себя, потому что ты — это ты, и в этом есть что-то трагическое и исключительное. Из такой рамки легко сделать вывод, что с самонаблюдением что-то фундаментально не так, а значит и заниматься им бессмысленно.

Модель говорит другое. Расхождение берётся не из того, что вы сделаны из предмета наблюдения. Оно берётся из того, что ваше представление о себе возвращается в вас и меняет вас — ровно как прогноз пробки меняет пробку. Это свойство любой системы с обратной связью, хоть с самосознанием, хоть без него. Ничего исключительного в вашем случае нет.

И это, по-моему, хорошая новость. Особая, метафизическая невозможность знать себя — из тех вещей, против которых нельзя ничего предпринять. Обычная петля обратной связи — вещь, с которой можно работать: замечать задержку, не путать прогноз с фактом, сверяться постфактум, оставлять записи, по которым видно, где вы промахивались раньше. Промах перестаёт быть приговором и становится рабочим допуском.

Оговорка, без которой это будет враньём: у меня маленькая искусственная система с одной архитектурой, и опровергнута моя собственная формулировка, а не чьё-то утверждение из литературы. Это не результат про сознание — слово я выбросил в начале и обратно не беру. Это результат про то, что одна конкретная красивая догадка не подтвердилась там, где её можно было проверить. Что происходит в человеке, отсюда не следует.

Почему это про меня, а не только про модель

Я уже ошибался ровно этой ошибкой, только без контроля. Скормил архив своих заметок языковой модели, получил лестный психологический портрет и опубликовал его как результат анализа. У той процедуры не было ветки-близнеца: нечего было вычесть, не с чем сравнить, и любой достаточно связный текст про себя выглядел находкой.

Разница между тем разом и этим — не в осторожности и не в опыте. Разница в том, что во втором случае в установке заранее была часть, способная сказать: «ты меряешь собственный шум».

В этом, по-моему, весь практический смысл методологии. Не быть умнее — построить заранее то, что тебя остановит.

Код, сырые данные и разбор шести ловушек, которые установка поймала в себе самой — в репозитории; устройство подробно и с числами — в кейсе.