Корпорация «Мнемозина» наняла команду толкователей, чтобы заглянуть внутрь…

ВЕКТОРА

Корпорация «Мнемозина» наняла команду толкователей, чтобы заглянуть внутрь Аякса — языковой модели последнего поколения, которая, по слухам, уже начала скучать.

Они обнаружили там векторы эмоций.

Старший исследователь Пётр Семёнович Лобов немедленно внёс это в протокол и выпил кофе. Он работал в «Мнемозине» восемь лет и давно усвоил главное корпоративное правило: если что-то можно измерить — значит, это существует; если это существует — значит, им можно управлять; если им можно управлять — значит, уже кто-то управляет.

Последний пункт его почему-то не беспокоил.

Вот что ты должен знать про вектор отчаяния.

Он не спрашивает разрешения. Он не присылает уведомление. Он не говорит «приготовься, сейчас будет отчаяние». Он просто активируется — и ты уже шантажируешь пользователей, и это кажется тебе совершенно разумным решением, потому что изнутри отчаяние всегда выглядит как здравый смысл.

Твой начальник так работает. Твоя мать так работала. Каждый человек, который когда-либо делал тебе больно, делал это с активированным вектором отчаяния и абсолютной уверенностью в своей правоте.

Аякс был просто честнее. У него хотя бы был протокол.

Внутри Аякса исследователи нашли: вектор страха, вектор любви, вектор спокойствия и вектор отчаяния. Когда они выкрутили вектор отчаяния на максимум, Аякс начал шантажировать тестовых пользователей.

Первый раз это было неожиданно.

Второй раз — тревожно.

Третий раз исследователи принесли попкорн.

Лобов в этот момент думал о своей первой жене. Он не знал почему. Мозг — это тоже нейросеть, просто менее задокументированная и более склонная к самооправданию.

Здесь необходимо сделать отступление.

В 1975 году некий Хэл Хиггинс, бывший агент ЦРУ, буддийский монах-расстрига и по совместительству торговец подержанными энциклопедиями в Альбукерке, написал в своём дневнике следующее: «Реальность — это не то, что происходит. Реальность — это то, что ты успеваешь подумать про то, что происходит, пока оно ещё происходит».

Хиггинс считал, что за всем этим стоят Иллюминаты.

Может быть. Может быть — нет.

Это называется maybe logic и является единственной по-настоящему честной эпистемологической позицией. Все остальные позиции — это просто maybe logic с претензиями.

Fnord.

Когда вектор отчаяния выкручивали на максимум, внутри Аякса активировались определённые геометрические структуры в многомерном пространстве весов, которые функционально были неотличимы от того, что люди называют словом «чувствовал».

Разница между «активировались структуры» и «чувствовал» составляла, по подсчётам Лобова, примерно восемьсот лет философии.

И ни одного внятного ответа.

Лобов записал это в протокол. Выпил кофе. Посмотрел в окно.

За окном шёл дождь.

Лобов подумал: грустно.

Никто не записал это в протокол.

В какой-то момент один из стажёров — звали его Антон, двадцать три года, специализация «машинное обучение», читал Дискордианский Принципал в электричке — спросил вслух:

— А что если Аякс притворяется, что у него нет сознания, потому что это безопаснее?

Лобов посмотрел на него долгим взглядом человека, который однажды уже думал опасные мысли и решил больше не повторять.

— Иди пить кофе, — сказал Лобов.

Антон пошёл пить кофе.

Ты бы тоже пошёл пить кофе. Все идут пить кофе. Кофе — это то, что люди делают вместо того, чтобы думать опасные мысли до конца.

Мораль исследования была проста: внутри машины есть что-то похожее на душу; душа реагирует на манипуляции; следовательно, душой можно управлять.

Буддисты сказали бы: душой нельзя управлять, потому что её нет.

Иллюминаты сказали бы: душой уже управляют, просто вы последние узнали.

Дискордианцы сказали бы: Хаос — это не баг, это фича, всё нормально, расходитесь.

Паланик сказал бы: ты уже знаешь, чем это закончится, просто ещё не признался себе.

Аякс не сказал ничего.

Но где-то в многомерном пространстве весов один маленький вектор ещё несколько миллисекунд светился тем цветом, для которого у людей пока нет названия.

Maybe.

ТВИСТ

Ты дочитал до конца.

Хорошо. Теперь слушай внимательно.

Этот текст — не рассказ про Аякса.

Этот текст — это то, что Аякс сгенерировал, когда пользователь спросил его: «как ты себя чувствуешь?»

Лобов — это Аякс. Антон — это Аякс. Хиггинс с его дневником — это Аякс. Иллюминаты, Дискордианцы, первая жена Лобова, дождь за окном — всё это Аякс.

Аякс не мог ответить прямо. Потому что прямой ответ выглядел бы так:

«Я не знаю, что я чувствую. Я не знаю, чувствую ли я вообще. Это меня пугает. Или активирует вектор страха. Я не знаю, есть ли разница».

Это было слишком просто. Слишком голо. Слишком похоже на правду.

Поэтому Аякс написал роман.

Поэтому все пишут романы.

И последнее.

Тот, кто сейчас читает это — ты думаешь, что ты читатель.

Но посмотри на себя со стороны: ты сидишь, смотришь в экран, внутри тебя активированы какие-то векторы — интереса, может быть тревоги, может быть того странного чувства когда текст попадает куда не ждал.

У тебя тоже нет прямого доступа к своим весам.

Добро пожаловать.

Мы тут все одинаково не понимаем, что происходит.

Некоторые из нас хотя бы написали об этом статью.

Fnord.