УВАРОВ‼️

Всем можно выдохнуть: ИИ не будет запускать ядерные ракеты (или будет)

Конец света, который нам устроит нейросеть и о котором так много говорят все кому не лень, будет гораздо прозаичнее атомной войны — и от этого страшнее. Мы попросили ИИ самого разобрать три сценария собственного апокалипсиса. ИИ любезно согласился. Евгений Павловский, наш блистательный ИИ-вед, прокомментировал.

✅ Сценарий первый. Военный.

ИИ решит, что на него напали, и ответит: ядерная война, ядерная зима, смерть всего живого — человечество погибнет раньше, чем его убьет превращающееся в красного карлика солнце. Впрочем, мы признали этот сценарий маловероятным: системы сдерживания все же (хочется верить) сидят в замкнутых контурах, а красную кнопку в случае чего будет нажимать человек. Впрочем, теоретически риски сохраняются: как вариант, автономные комплексы ПВО или тактические ИИ-агенты ловят ложный сигнал сенсора или кибератаку третьей стороны и эскалируют быстрее, чем человек успевает вмешаться.

✅ Сценарий второй. Коммунальный.

Более реалистичный — и это не конец света, а превращение городов-вавилонов в непригодные для жизни каменные мешки. Хотя, в сущности, для миллиардов людей это и есть конец света. ИИ-агенты оптимизируют энергосети, водоканалы, клиринги, логистику — но локально, не видя системы целиком. Несколько агентов одновременно «улучшают» свои участки и запускают каскадный сбой: перегрузка сети, остановка насосов, коллапс платежей. Канализация не работает не потому, что ИИ злой, а потому что агент водоканала и агент энергосети подрались за приоритет. Два исполнительных идиота с идеальной логикой и нулевым кругозором = катастрофа.

✅ Сценарий третий. Интеллектуально-когнитивный.

Наиболее реалистичный — и уже начавшийся. ИИ-агенты, генерирующие контент и управляющие рекомендательными алгоритмами, доводят поляризацию до точки, когда общество теряет способность к коллективным действиям, к конвенции, то есть к коллективному договору: условно, перестает уметь договариваться о том, что людоедство — это плохо. Ну например. И никакого взрыва — медленное расщепление социума на несовместимые реальности: выборы, вакцинация, климат, пандемия саботируются потому что люди больше не могут договориться о фактах. Институты не падают под ударами — они тихо перестают функционировать, потому что аудитория, на которую они опираются, распалась на атомы.

Конец света здесь — не взрыв, а паралич доверия: каждый в своей ленте, каждая лента в своей правде. Окна Овертона уже открыты, и из них дует холодный ветер. Пошел обратный отсчет.

Прощание с Солженицыным: Россия, которую мы возвращаем

Многажды в своих эфирах я признавался в активной нелюбви к Солженицыну. Это довольно странный человек, которого бурный XX век и его непростая история зачем-то вывели на авансцену. Плохой писатель, откровенный враль, большой поклонник «щирых» бандеровцев — Солженицын на некоторое время стал российским морально-нравственным камертоном. Его пегая борода, как указка педагога, задавала ритм интеллектуальной жизни: всем нам, понятное дело, нужно было покаяться, а потом и заплатить.

Снос памятника во Владивостоке (окей, перенос памятника) — вещь симптоматичная. Это символ того, что эпоха, в которой мы заигрались, постепенно предается забвению. Все меньше музеев о «великих репрессиях». Репрессии были, спору нет, но именно Солженицын — один из авторов мифологемы об их «величии». «Полстраны сидело, полстраны охраняло, рабы и вертухаи, вся страна — ГУЛАГ»: ко всем этим идеям приложил руку плохой писатель и никудышный мыслитель Солженицын, памятник которого под скучающие взоры владивостокцев намедни убрали с набережной прекрасного русского города.

Этим памятникам — а доведется и всему Центру им. Ельцина, одного из самых разрушительных и одиозных деятелей современной российской истории, — следует занять полагающееся им место, не нагруженное идеологическими и историческими коннотациями. Где-нибудь в парках, где опытные экскурсоводы говорили бы: это Солженицын, это Ельцин, это Сахаров — они внесли вклад в историю своей страны, причем как созидательный (Сахаров), так и разрушительный.

Помнится, в студенческие годы, зараженный «солженицынщиной» и «роймедведевщиной», юный историк пытался осилить «Архипелаг ГУЛАГ», что далось ему с колоссальным трудом. Как же это отвратительно написано! То есть просто с точки зрения русского языка. Тебя как будто пытаются накормить булыжниками. И не потому, что таков художественный замысел, а потому, что ничего, кроме булыжников, у автора нет. Хуже писал только Чернышевский, но он по крайней мере не был таким многословным.

Короче, прощайте, Александр Исаевич. Страна как-нибудь разберется и без вашего спорного наследия.

ЦОД «Полярная звезда»: атаки на дата-центры и распределенная Сибирь

Содержательно и тревожно поговорили с гуру цифрового мира Русланом Пермяковым — человеком, обреченно сведущим во всех этих ваших дата-центрах. О них, родимых, и шла речь.

Не будем растекаться мыслями по древу — сразу к сути.

1️⃣ Первое
Риски из-за атак на ЦОДы — не гипотетические. Украинские беспилотники уже выносят их. Не один сервер, а целые узлы. Что будет происходить при продолжающихся атаках? Банковские транзакции зависнут. Логистика посыплется. Госуслуги превратятся в тыкву. Самый важный вопрос в данном контексте — вопрос распределения. Между людьми, городами, регионами. Если вся вычислительная мощь сосредоточена в трех-четырех точках в европейской части России, удар по ним — не «технический сбой», а паралич.

Чувствуете, как запахло историческим шансом в Сибири?

Жахнем чуть-чуть футурологии — речь не о киборгах и не о синтетической икре, а о физике и экономике. ЦОДы необходимо размещать в Сибири. Не только потому, что холодно (хотя охлаждение почти бесплатно). А потому, что энергию, которую они вырабатывают, можно пустить в дело. Дата-центры не просто потребляют электричество — они выделяют тепло. Это тепло можно направить на отопление Академгородка. Или продавать.

Зацените: Новосибирск отапливается не только углем и газом, но и теплом от вычислений — символично! Умный город греется с помощью жара своего интеллекта, переходящего в центральное отопление. Сибирь становится не просто хранилищем данных, но и физическим обогревателем сибирской же науки. Это не маниловщина. Это термодинамика.

2️⃣ Второе
Привет, аналог. Нет, не нужно выбрасывать смартфоны и уходить в леса (или нужно?) — достаточно вспомнить, как пользоваться бумажной картой. Той самой, которую вы не держали в руках лет десять. Бумажные деньги? Да-да, архаика, но такая современная. Как резервный протокол — обязательно. Компас? Конечно! И вопрос, который должен вызвать не только улыбку, но и холодок: где на небе Полярная звезда? А? Что? Не уверены? Плохо... Ваш внутренний GPS умер, осталась картинка в телефоне. Это тревожнее, чем атака на дата-центр. Атаку можно отразить. Атрофию способности ориентироваться в мире — нет.

❗Уповать только лишь на серверные стойки глупо и недальновидно. Нужно строить распределенную Сибирь — с дата-центрами, которые греют Академгородок, с бумажными картами в бардачке и с твердым знанием, где на небе Полярная звезда. То есть с мощной системой образования. Тогда никакая атака на ЦОД не станет концом света. Максимум — поводом достать компас и вспомнить, что мы умеем думать головой, а не только искать в интернете.

Так и выглядит техносредневековье: когда навык работы с цифрой отлично сочетается с умением развести костер с помощью трения палки о палку. Новый технологический уклад — это не отказ от серверов и не возврат в пещеры. Это умение жить в двух мирах сразу: держать в голове карту звездного неба и при этом не терять связи с дата-центром, который греет твой город.

Цифра и сухая палка — не противоположности, а два конца одного умения выживать. И тот, кто владеет обоими, переживет любую атаку на ЦОД. Запомните этот твит.