Одним людям ИИ вселяет радость, другим же — страх и ужас. Кому верить?

Генри, моложавый исследователь искусственного интеллекта, считает, что риск превращения ИИ в ближайшие несколько лет в угрозу всему человечеству составляет примерно 50/50. По долгу службы он пытается это предотвратить. Он работает в небольшой исследовательской лаборатории ИИ в районе Большого Сан-Франциско, специализирующейся на безопасности. К своему призванию он относится более чем серьезно: даже отказался от романтических отношений, чтобы целиком посвятить себя делу, при этом жертвует треть доходов некоммерческим организациям в области безопасности ИИ.

В свободное время он готовится на случай неблагоприятного исхода событий и строит самодельное биологическое убежище, чтобы защитить себя и свою семью от ИИ-апокалипсиса.

По видеозвонку из своего кабинета Генри объяснил мне, что построить биоубежище, где можно будет укрыться от смертоносных патогенов, созданных с помощью передового искусственного интеллекта, невероятно просто. Сначала нужно купить готовую палатку с положительным давлением — вроде тех, что используются как теплицы в растениеводстве. Затем установить несколько фильтров тонкой очистки непосредственно перед воздухозаборником. Наконец, наполнить ее по максимуму продуктами длительного хранения, водой и всем необходимым.

Биоубежище выйдет “вполне бюджетным”, говорит Генри: “Оно обойдется меньше чем в 10 000 долларов, включая трехлетний запас продуктов”. Он попросил меня называть его вымышленным именем из-за предрассудков против “выживальщиков”, — особенно если худшие опасения не оправдаются, и человечество все же выстоит.

Генри далеко не единственный, кто подтверждает слово делом, когда речь заходит о самых сокровенных страхах и надеждах вокруг ИИ. Для определенной категории обитателей Кремниевой долины ИИ — это не просто очередная технологическая приблуда, а нечто, что в корне преобразит наше общество — и притом очень и очень скоро. У них нет времени обсуждать будущее общего искусственного интеллекта (ОИИ) в рабочих чатах и на званых ужинах. Настало время решительных перемен. Самопровозглашенные “рационалисты”, философы из Кремниевой долин, сосредоточенные на рационализме и морали, все чаще бьют тревогу из рисков ИИ. По другую сторону баррикад им противостоят компании с восторженными прогнозами.

Некоторые считают, что мы наблюдаем зарю новой эпохи сверхизобилия, в которой практически весь интеллектуальный труд может быть автоматизирован, после чего человечество накроет беспрецедентной волной процветания. Они всецело одобряют смену образа жизни, которую уже даже окрестили “из умников — в модники”. Другие готовятся к экономической катастрофе, не скупятся на инвестиции и круто меняют карьеру. Третьи считают, что ИИ неизбежно вырвется из-под контроля человека и уничтожит всё живое. Они тратят свои пенсионные накопления, устраивают безумные оргии и строят убежища для выживания.

"Многие из нас потом будут вспоминать эти два года как “окно”, когда мы еще могли что-то изменить, — говорит Генри. — Многие будут оглядываться назад и спрашивать себя: “Почему я не бросил работу и не попытался заняться по-настоящему важными делами, когда шанс еще был?”".

В 2024 году Апурва Шринивасан разорвала давние отношения, поняв, что хочет от мужчины чего-то иного — как раз благодаря развитию ИИ.

Шринивасан, специалист по биомедицинским исследованиям и анализу данных, живет в Лос-Анджелесе. По собственному признанию, ее всегда влекло к определенному типу мужчин: она ставила ум выше располагающей внешности. Но теперь она поняла, что генеративный ИИ берет на себя все больше функций и выполняет все бóльший объем работ, и ум как таковой стал для нее не так важен, как харизма, социальная активность и привлекательность. Или, как она недавно пошутила в “завирусившемся” твите: “Если ты действительно умен, стань заодно крутым или сексуальным”.

Многие мои собеседники, с которыми я пообщался для этой статьи, считают так: поскольку ИИ скоро подомнет под себя бóльшую часть умственной деятельности, социальная жизнь станет гораздо более важной составляющей человеческого общества, а физическая привлекательность — залогом процветания. “Мозги” ушли в прошлое, сегодня в моде снова красота и мышцы.

“Мне всегда нравилось быть в форме, — говорит технологический предприниматель из Флориды Сёрен Ларсон, — и я склонен думать, что привлекательность, обаяние и чувство юмора станут большой редкостью, когда ИИ сможет выполнять все виды “умных” задач”.

“Если наша участь — погибнуть от ядерного взрыва, то пусть эта бомба, когда она упадет, застанет нас за разумными и человеческими делами — молитвой, работой, учебой, чтением, слушанием музыки, купанием детей, игрой в теннис, болтовней с друзьями за пинтой пива и игрой в дартс — а не в панике жмущимися друг к другу, словно испуганные овцы с мыслями о бомбах”, — написал Клайв Стейплз Льюис в 1948 году.

Многие из моих собеседников, обеспокоенных влиянием ИИ, цитировали Льюиса дословно, а многие своими словами высказывались в схожем ключе о том, как они стараются ценить каждую минуту отпущенного им времени.

“В каком-то смысле это действительно освобождает, — рассказала мне о своих опасениях по поводу развития ИИ Аэлла, исследовательница фетишей, секс-работница из Большого Сан-Франциско и легенда соцсети Х. — Мне нравится устраивать всякие странные оргии, и я думаю: ну и что с того, мы же все умрем! Можно ли закатить еще бóльшую дикость? Сейчас самое время для всяких безумств”.

Мы сидим на лужайке перед Lighthaven— старым и аляповатым отелем в Беркли, который облюбовали рационалисты, превратив в свою штаб-квартиру, — и она делится своими страхами, как ИИ уничтожит человечество. “Если честно, я “не вывожу”, — признается она. — Я краем глаза вижу части этой мозаики и потом, когда могу, искренне убиваюсь, но по-настоящему сопереживать я не могу”. В результате она живет настоящим. Тратит сбережения. Меньше занимается спортом. Попробовала тяжелые наркотики, к которым иначе бы не притронулась. Не боится принимать снотворное, несмотря на риск развития деменции. Заморозила несколько яйцеклеток: “Я просто пытаюсь взять от жизни как можно больше, просто ради развлечения”.

В Долорес-парке в Сан-Франциско нечто похожее, пусть и менее радикальное, рассказывает мне венчурный инвестор Вишал Майни. “Думаю, есть смысл просто стремиться к своим желаниям и постепенно вычеркивать сбывшиеся, — говорит он. — Делай то, что важно для тебя, пока есть время”.

За травяным чаем Майни рассказывает мне о собственных психологических установках на ближайшие годы. Он не знает, что за будущее ждет нас: то, где человеческие возможности мощно расширятся благодаря ИИ, или же более мрачное, где технологии окончательно “обесценят” человечество. Отталкиваясь от этой неопределенности, он ратует за “палеофутуризм”, ставя во главу угла человеческое общение в мире, переполненном сверхувлекательным цифровым контентом, подогнанным под любые вкусы. “Мы вступаем в эпоху ИИ-компаньонов и напичканных дофамином цифровых впечатлений, и у нас есть выбор: погрузиться в метавселенную до конца или оставаться в реальном мире?” — рассуждает он.

На жизнь Холли Элмор страх ИИ повлиял самым непосредственным образом: ускорил ее развод. В кофейне в Сан-Франциско она поведала мне, что они с мужем оба остро осознавали риски, связанные с бесконтрольной разработкой ИИ, но разошлись в подходе к ее сдерживанию.

Элмор, исполнительный директор протестной группы “Останови ИИ”, считала, что единственный жизнеспособный путь вперед — решительные и массовые протесты против крупных лабораторий калибра OpenAI. По ее словам, ее бывший муж Ронни Фернандес эту идею не поддержал. “У нас было много проблем, и мне, наверное, в принципе не стоило выходить замуж, но стало совершенно ясно, что если мы не расстанемся, я не смогу заниматься “Останови ИИ”, — говорит она. — У меня были четкие убеждения на этот счет, и это очень четко расставило приоритеты в моей жизни. Честно говоря, так мне нравится даже больше”.

“Я действительно считаю, что стыдить инакомыслящих и насаждать групповое мышление ради определенного политического результата — дело неблагодарное, — написал в электронном письме Фернандес, управляющий Lighthaven. — Разногласия привели лишь к обидам с обеих сторон, и в итоге к разводу”. Он считает, из попыток выставить лаборатории ИИ “врагом номер один” ничего путного не выйдет, но при этом подчеркивает “значительный шанс, что, превзойдя по уму человека, ИИ в самом буквальном смысле всех нас уничтожит — или устроит нечто похуже за считанные десятилетия”.

У других мечты и страхи вокруг ИИ изменили подход к деньгам. Примерно в 2020 году 28-летний Дэниел Кокотайло перестал откладывать на пенсию.

Исследователь ИИ забеспокоился об экзистенциальной угрозе, которую ИИ представляет для человечества. Он проработал в OpenAI с 2022 года вплоть до ухода в 2024 году из-за опасений насчет безопасности — и занимается этим вопросом и поныне. Ранее в этом году он опубликовал популярное онлайн-эссе “ИИ 2027”, в котором исследует, как стремительное развитие в этой области может привести к “потере контроля” — от мировой войны из-за гонки вооружений в конце 2020-х годов до вымирания человечества к 2035 году, если ИИ распылит по всей цивилизации некий смертоносный химикат.

На фоне всех надвигающихся угроз, рассуждает он, зачем копить десятилетиями, если даже ближайшие годы покрыты туманом? “Я накопил вполне приличную сумму, особенно на акциях, но планирую эти деньги спустить, — сообщает он мне в кофейне в Беркли. — И вообще планирую жить с каждым годом все скромнее”. Он говорит, что лично знаком с другими исследователями искусственного интеллекта, которые делают то же самое.

В недавнем выпуске популярного технологического подкаста Дваркеша Патела исследователь из соперничающей с OpenAI компании Anthropic Трентон Бриккен рассказал, что тоже перестал откладывать на пенсию, потому что верит в скорое пришествие ИИ. “Я не представляю себе, чтобы все эти деньги просто лежали на своих счетах и дожидались, пока мне стукнет 60, но тогда всё будет совсем по-другому”, — сказал он.

Другие представители технологической отрасли подходят к вопросу иначе. Самые убежденные пессимисты опасаются, что “недолго музыка играла”: осталось всего несколько лет, на то, чтобы прилично заработать, после чего человеческий интеллектуальный труд обесценится окончательно.

“У нас в запасе всего пара лет, чтобы добиться финансового благополучия, — считает один журналист по криптовалюте со Среднего Запада, известный под профессиональным псевдонимом Redphone. — А если не успеешь, весь твой род превратится в батраков у технологических феодалов, контролирующих ИИ”.

Харун Чаудери, бывший аналитик целостности данных в Facebook*, а ныне управляющий компанией Autoblocks, питает схожие опасения. Он эмигрировал из Пакистана в США в возрасте пяти лет. Его отец был таксистом, а мать — домохозяйкой. Он считает, что ближайшие несколько лет — последний шанс заработать состояние себе и детям. “Социальные лифты станут большой редкостью, и люди застрянут на нынешних социально-экономических позициях”, — доказывает он мне.

Руководитель хедж-фонда искусственного интеллекта AlphaFund Мэсси Брэнскомб излагает эту мысль ещё более прямолинейно: “Если вы не стали незаменимым сотрудником ключевых компаний [под которыми он подразумевает ведущие лаборатории искусственного интеллекта формата OpenAI и Anthropic] и живете на зарплату, работая, что называется, “на дядю”, вас ждет куча неприятностей. Эти профессии уже не вернутся”.

Другие не уверены, что ИИ так уж скоро обрушит мировую экономику. Доцент кафедры философии Университета Вандербильта Дэвид Торстад как раз живет на зарплату, но не очень-то из-за этого переживает. Хотя сам он уже начал откладывать “в кубышку” из-за неопределенности вокруг ИИ, он призывает к осторожности в прогнозах. “Мне кажется, что в некоторых кругах, — рассуждает он, — особенно в районе Залива и Большом Сан-Франциско, завелась кучка смышленых единомышленников, которые живут вместе, работают вместе, читают определенные форумы и слушают определенные подкасты, и в результате закоснели в конкретном, весьма радикальном взгляде на ИИ, от которого, как правило, очень трудно освободиться”.

Некоторые готовятся не к финансовому апокалипсису по вине ИИ, а к апокалипсису всамделишнему.

По собственному признанию, Ульрик Хорн всегда интересовался “общественными проблемами” и в результате, окончив в 2008 году Пенсильванский университет, начал работать над возобновляемыми источниками энергии. Но в последние годы стокгольмский предприниматель озаботился другой проблемой: биологической безопасностью. Хорн встревожен так называемой “зеркальной жизнью” — новой областью биологических исследований, которая занимается созданием параллельных форм естественной жизни на основе полной зеркальной симметричности. Он переживает, что ИИ ускорит исследования в этой области и приведет к созданию разрушительного биологического оружия. Он убежден, что ИИ разовьет эти способности уже через пять-десять лет.

Собрав средства на исследования защиты от биологических угроз с помощью благотворительности, он основал Fonix — компанию, создающую готовые биоубежища с высококачественными воздушными фильтрами. За 39 000 долларов можно приобрести укрытие на случай беды и установить его прямо у себя дома. Он сообщил, что уже получил несколько предварительных заказов, и собирается начать поставки в 2026 году.

Хорн не единственный, кто видит в угрозе ИИ возможность заработать. Доцент кафедры бизнес-аналитики Университете Уичито Росс Грютцемахер открывает консультационную фирму по вопросам “устойчивости”, чтобы помочь компаниям и частным лицам подготовиться к серьезным потрясениям по вине ИИ и другим экзистенциальным рискам. Он также приобрел землю в Вайоминге, где планирует возвести “полностью безопасное” здание. Предприниматель и давний “переживальщик” насчет всеразличных угроз человечеству Джеймс Норрис недавно переехал в, как он сам выражается, “крепость для выживания” в неизвестном месте в Юго-Восточной Азии, и предлагает услуги консультанта и помощь в создании аналогичных убежищ другим. Норрис также рассказал мне, что решил не заводить детей из-за хаоса, в который мир может погрузить ИИ.

Невзирая на личные страхи, бывший исследователь OpenAI Кокотайло крайне скептически оценивает попытки подготовиться к худшим исходам из-за искусственного интеллекта. “Я думаю так: или мы все умрем, или все будет хорошо, — рассуждает он. — Полагаю, если бы я уделил этому пару недель, я мог бы собрать “тревожный чемоданчик”, построить биоубежище или что-то в этом роде, и тогда на какое-то время это бы спасло мою семью. Но мне важнее заниматься работой, а не этим”.

Спустя несколько недель после моего первого разговора с Генри, молодым исследователем безопасности ИИ, я написал ему по электронной почте. Оказалось, что он раздумал строить биоубежище своими руками, и решил, что мыслил недостаточно масштабно.

Теперь он пытается купить землю в Калифорнии, чтобы возвести более капитальные сооружения, чтобы защитить друзей и семью. “Базовый сценарий, от которого я отталкиваюсь, — это что враждебный сверхразум искусственного интеллекта возьмет верх”, — говорит он. Он хочет подготовиться к будущему, в котором всемогущий ИИ развяжет войну против людей, но надеется, что у него “еще останется толика сострадания”. Победив в этой войне, рассчитывает он, ИИ решит позаботиться о выживших и поместит людей в своего рода человеческий зоопарк. “А я бы предпочел жить в человеческом зоопарке, чем пасть от биологического оружия”, — заключает он.

* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.