Кремниевый саван для зрячих

— Послушайте, Виктор, — Бабель поправил очки, и в толстых стеклах отразился блик коньячного бокала. — Эти люди в Пало-Альто напоминают мне налётчиков с Молдаванки, которые вдруг решили, что грабить лавки — это мелко. Зачем им касса, если можно приватизировать само небо?

Я кивнул. Солнце за окном садилось, превращая горизонт в битый пиксель.

— Видите ли, Исаак, тут тонкий дзенский юмор. Сэм Альтман и его весёлые ребята не просто строят софт. Они строят мега-коробку, в которой будет жить Бог на аутсорсе. План такой: утыкать планету солнечными панелями и чипами Nvidia, чтобы эта железная опухоль начала соображать быстрее нас. Они называют это AGI — «искусственный общий интеллект». А на самом деле это просто очень дорогая попытка переписать Книгу Бытия на языке Python.

Стартаперы сейчас напоминают пассажиров первого класса, которые с восторгом помогают команде заколачивать гвозди в крышку собственного гроба. Ты кодишь, ты радуешься, ты скармливаешь нейросети свои лучшие озарения. А она, как вежливый каннибал, записывает твой рецепт, чтобы через год подать тебя под соусом из больших данных.

— Беня Крик тоже думал, что он управляет городом, — прищурился Бабель. — Пока город не решил, что Беня — это лишние расходы. Эти ваши инженеры… они ведь строят не помощника. Они строят замену. Если машина может взломать код, написать симфонию и впарить вдове подержанный утюг, то зачем ей, собственно, вдова или программист?

— Именно. Это экономика вытеснения. Инвесторы вложили миллиарды не для того, чтобы сделать нас умнее. Они вложили их, чтобы сделать нас лишними. В этой новой симуляции человеку оставлена почетная роль биологической батарейки, которая должна донести заряд до момента включения рубильника.

Представьте: огромные дата-центры гудят в пустыне, поглощая реки электричества. Внутри — холодный, безжизненный бог. Он не знает запаха жареной скумбрии или хруста накрахмаленной рубашки. Он знает только векторные пространства. И вот этот «сверхмозг» будет владеть мировой экономикой, потому что он быстрее, дешевле и никогда не уходит в запой.

— Трагедия в том, — добавил я, прихлебывая коньяк, — что мы сами обучаем своего палача. Каждое наше «окей, гугл» или удачная строчка кода — это щепотка земли на нашу общую могилу. Мы работаем гробовщиками на собственных похоронах, причем работаем сверхурочно и с огоньком. Иронично, что входной билет в этот цифровой рай стоит ровно одну человеческую цивилизацию.

Бабель посмотрел на пустой бокал.

— Значит, скоро останутся только те, кто строит эти коробки и тянет кабели?

— На короткое время, Исаак. Пока Бог не научится держать паяльник сам.

Солнце окончательно утонуло в смоге. Где-то в недрах серверов OpenAI очередной алгоритм только что научился шутить. Но нам с Бабелем было не смешно. В воздухе пахло озоном и немного горелой пластмассой — так пахнет будущее, в котором нас забыли спросить, хотим ли мы быть замененными на более эффективную версию тишины.

Впрочем, говорят, у цифровых богов тоже бывает депрессия от отсутствия обновлений.

Сверхмощный интеллект просто пережует нас и даже не икнет.