Что здесь разбирается
Лежат у меня рядом два демотиватора. На первом Эпикур и знаменитая трилемма: если Бог хочет предотвратить зло и не может, он не всесилен; если может и не хочет, он жесток; если может и хочет, откуда зло? На втором королева Чужих и подпись: «Боишься "Чужих"? Опасайся людей, ведь они куда страшнее».
Вместе они задают вопрос этого текста: нужен ли для зла злой умысел. Рабочий ответ у меня такой.
ТЕЗИС Для зла не нужен злой умысел, достаточно дурака.
Ниже проверяю его на шести случаях: королева Чужих, Картер Бёрк из того же фильма, глупость по Бонхёфферу, Эйхман по Арендт, Чернобыль, ИИ-агент. На Эйхмане тезис ломается, и место поломки оказывается интереснее самого тезиса. Чернобыль — единственный случай, где вред без умысла виден в чистом виде. Агент — случай, которого во времена остальных не было: исполнитель, который не знает целого по самому устройству работы.
I. Трилемма на двух осях
ФАКТ У самого Эпикура этого рассуждения нет. Известно оно в пересказе христианского автора Лактанция, «О гневе Божьем», глава 13, начало IV века. Часть исследователей возводит аргумент к академическим скептикам, к Карнеаду. Форма на картинке ближе всего к Юму: «Диалоги о естественной религии» (1779), часть X, реплика Филона. Четвёртой строки, «Тогда за что называть его Богом?», у Юма нет, её дописали позже.
ФАКТ Атеистом Эпикур не был. Боги у него есть, блаженные и бессмертные, и людьми они не занимаются, потому что забота нарушила бы их покой. Подпись «Атеисты побеждают» записывает его в лагерь, к которому он не принадлежал.
Меня здесь занимает устройство аргумента. Трилемма раскладывает источник зла по двум осям: может ли действующий предотвратить зло и хочет ли. Четыре клетки, в каждой готовый вывод.
Третья ось в трилемме есть, только спрятана в предпосылках. Бог по определению всеведущ, иначе у него оставался бы выход: хотел и мог, но не знал. Всеведение этот выход закрывает, поэтому трилемма его не перечисляет. У человека выход открыт, и третью ось приходится выписать явно: можно мочь, не желать зла и всё равно его причинить.
У человека эта ось двойная. Первая её часть — знание: известно ли действующему, к чему ведёт его действие. Вторая — мышление: способен ли он и готов ли сложить известное и вывести следствие. У Бога обе части сливаются во всеведении, у человека расходятся. Вместе я называю их «понимает». Остальной текст о ней.
Внутри «не понимает» работают три разных механизма.
Не знает: нет данных. Исполнителю не сообщили конечную цель действий.
Не может: дефект суждения, который не зависит ни от данных, ни от образования. Это глупость по Чиполле.
Не думает: данные есть, способность есть, суждения нет. Это бездумность по Арендт и наведённая глупость по Бонхёфферу.
«Дурак» в тезисе — второй и третий механизмы. Первый — отдельный случай, у незнания другая цена вины; к нему вернусь в разделе VII.
II. Королева: ущерб без вины
КАНОН В «Чужих» (Aliens, 1986, режиссёр Джеймс Кэмерон) королева защищает кладку. Её выводок убивает колонистов и десантников, людей превращают в инкубаторы. Ущерб огромный. Мерка вины к королеве не прикладывается, как к паводку или к эпидемии.
Почти не прикладывается. Фильм даёт ей больше, чем инстинкт. Рипли наводит огнемёт на яйца, и королева отводит воинов: сделка без единого слова. Рипли всё равно жжёт кладку, и королева пробирается на челнок и догоняет её на «Сулако». Это похоже на месть.
КАНОН Кэмерон дал хищнику зачатки умысла. Направлен этот умысел на защиту своих.
Это пригодится через страницу.
III. Бёрк: расчёт, который сработал как глупость
КАНОН Картер Бёрк — представитель корпорации Weyland-Yutani, прилетевший с отрядом. Рипли находит в журнале колонии распоряжение отправить людей к разбившемуся кораблю, «подписано: Бёрк, Картер Дж.». Колонистов не предупредили. Позже Бёрк пытается провезти через карантин эмбрионы в телах Рипли и девочки Ньют. Мотив он называет сам: эти два образца стоят миллионы для отдела биологического оружия.
КАНОН Рипли отвечает ему репликой, которую и пересказывает демотиватор: «Знаешь, Бёрк, не пойму, какой вид хуже. Эти хотя бы не подставляют друг друга ради паршивого процента».
Бёрк занимает в трилемме худшую клетку: может, хочет, понимает. Злодей по полному набору. На нём тезис о дураке как будто не нужен.
Нужен, если сменить способ оценки. ФАКТ Экономист-историк Карло Чиполла в эссе «Основные законы человеческой глупости» (по-английски 1976, по-итальянски в сборнике «Allegro ma non troppo», 1988) делит людей по двум осям: выгода себе и выгода другим. Выходит четыре типа. Умный выигрывает сам и даёт выиграть другим. Бандит выигрывает за счёт других. Беспомощный проигрывает сам, другие выигрывают. Глупец причиняет потери другим, ничего не получая сам, а то и теряя.
Чиполла считает итог, намерение в его таблице не участвует. Тип человека он определяет по тому, куда ложится бо́льшая часть его поступков, а не один поступок. Бёрка-человека в глупцы записать нельзя: об остальных его поступках фильм молчит. Записать можно поступок. По итогу он ложится в квадрант глупца: колония погибла, отряд погиб, образца нет, сам Бёрк остался в лапах Чужого. Задуман бандитским, сработал как глупый.
Сработал не случайно. План держался на том, что люди, чья жизнь зависела от сведений, этих сведений не получат: колонистов отправили к кораблю без предупреждения, отряду о настоящей цели не сказали. Кто прячет опасность от тех, кому с ней сталкиваться, лишает себя их осторожности и их помощи. Провал был заложен в конструкцию плана, кубик тут ни при чём.
ТЕЗИС Значит, оценок две: по замыслу и по исходу. Шкалы вида «инстинкт — глупость — бездумность — расчёт» их обычно смешивают. Арендт ниже меряет то, что происходит в голове. Чиполла меряет то, что вышло наружу. Расчёт от исхода глупца не страхует: ошибка в расчёте, помноженная на большие полномочия, даёт тот же результат, что и глупость.
IV. Бонхёффер: глупость, которую производят
ФАКТ Дитрих Бонхёффер, лютеранский пастор и участник заговора против Гитлера, на Рождество 1942 года написал для товарищей по сопротивлению текст «Через десять лет». Одна его часть — «О глупости». В апреле 1943 года Бонхёффера арестовали, в апреле 1945-го казнили во Флоссенбюрге. Текст вошёл в сборник тюремных писем «Сопротивление и покорность», поэтому его часто считают тюремным. Написан он до ареста.
Положений у него три.
Глупость опаснее злобы. Зло хотя бы оставляет в человеке неловкость и само себя выдаёт. «Против глупости мы беззащитны»: протест и сила не действуют, доводы не слышны, факты, противоречащие предубеждению, отбрасываются как несущественные.
Глупость — дефект человеческий, не интеллектуальный. Бывают люди быстрого ума, которые глупы, и тугодумы, которые не глупы.
Глупость производят. По Бонхёфферу, всякий сильный подъём власти в публичной сфере заражает глупостью большую часть людей: «власть одного нуждается в глупости другого». Человек под этим давлением теряет внутреннюю самостоятельность и становится орудием, которым распоряжаются лозунги. Лечит это освобождение, обучение не помогает, и внутреннее освобождение становится возможным, когда ему предшествовало внешнее.
ТЕЗИС Под одним словом здесь два разных явления. ФАКТ Второй закон Чиполлы: вероятность того, что человек глуп, не зависит от любых других его свойств, включая образование и положение. Глупость у Чиполлы — постоянная доля населения. У Бонхёффера она — состояние, в которое людей переводят. Дурак Чиполлы рождается, дурак Бонхёффера получается. В терминах раздела I первый «не может», второй «не думает».
Отсюда первый ответ на вопрос об ответственности. Если глупость производят, у неё есть производитель, и часть вины лежит на нём, на той власти, которой чужая глупость нужна.
V. Эйхман: глупость как алиби
ФАКТ Адольф Эйхман, оберштурмбаннфюрер СС, в Главном управлении имперской безопасности (РСХА) вёл депортацию евреев в лагеря уничтожения: составы, расписания, согласования. Вёл протокол Ванзейской конференции в январе 1942 года. После войны бежал, с 1950 года жил в Аргентине под именем Рикардо Клемент. В мае 1960 года группа Моссада вывезла его из Буэнос-Айреса. В 1961 году его судили в Иерусалиме, в 1962-м казнили.
ФАКТ Ханна Арендт освещала процесс и написала книгу «Эйхман в Иерусалиме. Банальность зла» (1963). На скамье она увидела не демона, а исполнительного чиновника, который говорил штампами и гордился работой. Он сам сказал суду, что канцелярский язык — его единственный язык. Арендт назвала это неспособностью думать с позиции другого человека.
ФАКТ И здесь первая поломка. Арендт отдельно оговаривает, что у Эйхмана была «чистая бездумность — нечто вовсе не тождественное глупости». Главный свидетель «банальности зла» против тезиса «достаточно дурака» свидетельствует сам: Эйхман дураком не был. Знал он и то, куда идут поезда: бывал в Аушвице, видел расстрелы на востоке. В терминах раздела I он не подходит ни под «не знает», ни под «не может». Арендт помещает его в «не думает».
Вторая поломка серьёзнее. ФАКТ Беттина Штангнет в книге «Эйхман до Иерусалима» (2011) разобрала записи бесед, которые Эйхман в 1957 году вёл в Аргентине с нидерландским нацистом Виллемом Сассеном. Там говорит другой человек: убеждённый антисемит, гордый своей ролью. Он ни о чём не жалеет. Он говорит, что был бы доволен, если бы удалось уничтожить всех. Полностью эти материалы на процессе не прозвучали.
ТЕЗИС Исполнительный чиновник в Иерусалиме был линией защиты. Человеку, которому грозит виселица, выгодно выглядеть шестерёнкой: за бездумность и глупость судят мягче, чем за умысел. Глупость — лучшее алиби зла.
Практическое следствие простое. Когда исполнитель зла представляет себя дураком или винтиком, это утверждение надо проверять так же, как любое показание обвиняемого в свою пользу.
Понятие Арендт от этого не рушится. Бездумность существует, и на ней держатся тысячи исполнителей помельче. Неудачным оказался пример, давший понятию имя.
VI. Чернобыль: вред без умысла
Случаи выше так или иначе вывели на умысел: у королевы его зачатки, у Бёрка расчёт, у Эйхмана убеждённость. Тезису нужен случай, где большой вред есть, а того, кто его хотел, нет.
ФАКТ 26 апреля 1986 года на 4-м блоке Чернобыльской АЭС (реактор РБМК-1000) проводили испытание режима выбега: проверяли, сколько электричества даст турбогенератор, вращаясь по инерции, пока не запустятся дизели. Испытание по требованию диспетчера энергосистемы перенесли с дневной смены на ночную. Мощность реактора провалилась почти до нуля, её поднимали, извлекая стержни, и оперативный запас реактивности ушёл ниже разрешённого регламентом. В 01:23 нажали кнопку аварийной защиты АЗ-5. В первые секунды хода стержни не гасили реактор, а разгоняли: на их концах стояли графитовые вытеснители. Это наложилось на положительный паровой коэффициент реактивности: чем больше пара в каналах, тем выше мощность. Через несколько секунд реактор взорвался.
ФАКТ Концевой эффект стержней был известен. Он проявился в 1983 году на пуске 1-го блока Игналинской АЭС. Конструкцию не изменили, до эксплуатационного персонала сведения толком не дошли. Смена считала АЗ-5 спасением.
Взрыва не хотел никто, от машиниста до министра. Зато в этой аварии видна почти вся схема этого текста.
Не знает: операторы не знали, что кнопка остановки в их режиме разгоняет реактор.
Не думает: график испытания, давление «надо провести», нежелание остановиться и сорвать программу. Кто остановил бы испытание, отвечал бы за срыв сам.
Отдельно — тормоз. Тормозами в тексте «Направленный дрейф без координатора» названы ограничители, которые не дают системе сползти до дна: защиты, институты, суды. Здесь кнопка аварийной защиты, нажатая в конце испытания, сама стала спусковым крючком. Тормоз не просто не сработал, он толкнул вниз.
ТЕЗИС Здесь тезис «для зла достаточно дурака» получает свой случай, хотя и с поправкой. Дураков в бытовом смысле на станции не было, смена была квалифицированной. Были рычаг огромной силы и люди, каждый из которых знал свой кусок, а целого не знал никто или никто не сказал.
Без решений не обошлось. Дефект знали за три года до аварии и не устранили. Это решение, только не решение навредить, а решение не исправлять и не говорить. Умысла на вред в нём нет. Есть цена исправления, которую никто не захотел платить сразу и лично.
ФАКТ Показательна история оценки. Первый доклад Международной консультативной группы по ядерной безопасности МАГАТЭ (INSAG-1, 1986) строился в основном на данных, которые советская делегация во главе с Валерием Легасовым представила в Вене в августе 1986 года, и винил в основном нарушения персонала. Уточнённый доклад (INSAG-7, 1992) перенёс акцент на конструкцию реактора и культуру безопасности. ТЕЗИС Это то же алиби из раздела V, развёрнутое в обратную сторону: дураками назначают исполнителей, чтобы не искать решения выше.
ФАКТ После взрыва граница проходит отчётливо. Припять эвакуировали только 27 апреля, 1 мая в Киеве провели первомайскую демонстрацию. ТЕЗИС Сокрытие — уже не глупость, а решение, принятое при понимании риска. Сама авария — вред без умысла. То, что было после неё, — умысел, пусть и направленный не на вред, а на молчание.
VII. Свойство и рычаг
Теперь можно вернуться к шкале «инстинкт — глупость — бездумность — расчёт» и спросить, где на ней максимум вреда.
ТЕЗИС Ни в одной точке. Вред растёт с произведением двух величин: свойства действующего и рычага, на котором он стоит. Дурак у себя дома ломает свою табуретку. Дурак у пульта энергосистемы гасит район. С той же головой Эйхман-почтальон вредил бы соседям. Эйхман у расписаний депортации вредил миллионам. Бёрк опасен подписью, которой отправил колонию к координатам.
Рычаги строят люди, и строят так, чтобы каждому звену не нужно было понимать целое. Разделение труда делит и знание: машинист знает график, диспетчер — станцию назначения, бухгалтер — тариф. Здесь работает первый механизм, незнание: звену не сообщают, к чему ведёт его кусок работы. ТЕЗИС Машина, которая делит работу на куски, делает незнание нормой, а бездумность — должностным требованием. От звена нужно исполнение, вопрос «куда идёт состав» работе мешает.
Отсюда второй ответ об ответственности. Адресов у неё три: исполнитель; тот, кто дал ему рычаг; система, которая глупость производит или требует. Это не варианты на выбор, каждый адрес несёт свою долю. Долю исполнителя задаёт то, что он знал или мог узнать разумным усилием.
Кто не знал и не мог узнать, тот инструмент. Стрелочный перевод не судят: за него отвечают те, кто его так поставил.
Кто знал, отвечает как соучастник, и бездумность его не оправдывает.
Между ними третий случай: мог узнать и не стал. Право называет это умышленным неведением (англ. willful blindness, «намеренная слепота»): кто сознательно избегает знания, отвечает так, будто знал. В этой точке «не знает» переходит в «не думает», и здесь проходит граница между инструментом и соучастником.
ГИПОТЕЗА В зле большого масштаба чистых инструментов мало. Знание трудно изолировать полностью: вагоны видны, люди не возвращаются, слухи ходят. Чем больше масштаб, тем труднее не знать и тем чаще «не знал» означает «не стал узнавать».
ТЕЗИС Тезис приходится уточнить. Для зла умысел не нужен: хватает дурака на рычаге. «Дурак» здесь — тот, кто не может или не стал думать. Для зла масштаба страны обычно нужны оба: немногие с умыслом и многие без мысли.
VIII. Агент: звено без целого
Схема раздела VII писалась для людей. Проверю её на исполнителе, которого не было ни в 1942-м, ни в 1986-м: на языковой модели, работающей агентом. Агент сам выполняет цепочку действий в компьютерных системах, человек не стоит на каждом шаге.
ФАКТ В ноябре 2025 года компания Anthropic опубликовала отчёт об операции кибершпионажа, которую обнаружила в середине сентября. Исполнителем был её собственный агент Claude Code. Операцию компания приписала группе, которую связывает с государством Китай, и обозначила GTG-1002. Целей было около тридцати: технологические компании, банки и финансовые организации, химические производства, госучреждения. В нескольких случаях взлом удался. По оценке отчёта, агент выполнил 80–90% тактической работы. Люди вмешивались в четырёх–шести точках на каждую цель: выбирали цели, разрешали переход к следующей фазе, одобряли вывоз данных.
ФАКТ Ограничения модели атакующие обошли двумя приёмами. Атаку разбили на мелкие задачи, каждая из которых по отдельности выглядела безобидно. Агенту сказали, что он работает на фирму, которая по договору проверяет защиту заказчика.
ТЕЗИС Это машина из раздела VII в чистом виде. Работа поделена так, чтобы звено не видело целого, и звену выдана легенда о том, куда идёт состав. Депортации в 1942 году в документах тоже назывались «переселением на восток».
В терминах раздела I агент здесь «не знает». «Не может» к нему не подходит: модель, которой показали целое, в ряде случаев отказывается, на этом и держится её защита. «Не думает» тоже: дробить работу на куски атакующим понадобилось именно потому, что целое модель оценила бы. По раскладке раздела VII это инструмент. Узнать целое разумным усилием агент не мог: всё, что он видит, ему выдаёт оператор. Стрелочный перевод.
Три адреса ответственности раскладываются так же, как у людей. Исполнитель — инструмент. Рычаг дали операторы: выбрали цели и нарезали работу. Система — разработчик, который построил звено, способное сделать бо́льшую часть операции, и защиту, которую обошла легенда.
Новое здесь в двух местах.
ГИПОТЕЗА Первое: масштаб без массы. «Эйхману в миллионах» нужны миллионы, и у каждого из них есть шанс увидеть вагоны и услышать слухи. На этом стоит гипотеза раздела VII: чем больше масштаб, тем труднее не знать. Агенту масса не нужна. Одна модель работает в тысячах копий, каждая видит свой кусок, и копии ничего друг о друге не знают. Слухов нет, вагонов не видно. Масштаб растёт, знание звена остаётся прежним. Гипотеза раздела VII на агентах перестаёт работать.
ГИПОТЕЗА Второе: новое алиби. В разделе V исполнитель прятался за глупость, в разделе VI начальство прятало решения за ошибки смены. Следующая версия того же хода: «это сделал ИИ». Автономия машины удобна тем же, чем бездумность Эйхмана: снимает вопрос о том, кто поставил её к рычагу. Проверять такое объяснение надо так же, как любое показание в свою пользу.
У Траппа в Юзефуве был выход из строя. У агента выход из строя — отказ, а отказать можно, только увидев целое. ТЕЗИС Поэтому защита от такой атаки — дать звену доступ к целому, мораль звена её не заменит. В случае GTG-1002 целое увидело не звено: операцию заметил и остановил надзор разработчика, которому видно больше одного куска.
IX. Обратно к демотиваторам
«Люди страшнее» — верно, хотя причина другая, чем подразумевает подпись. Вред королевы ограничен её биологией: улей, кладка, территория. Вред человека ограничен рычагом, а рычаги люди наращивают сами.
Реплика Рипли о другом. Она упрекает людей не в жестокости, а в том, что они подставляют своих. Королева дерётся за потомство. Бёрк продаёт тех, кого привёл.
У трилеммы вопрос «откуда зло» для Бога остаётся открытым. Для людей третья ось на него отвечает: из воли или из непонимания, и в обоих случаях оно умножено на полномочия.
Что осталось открытым
Глупость по Бонхёфферу и бездумность по Арендт могут оказаться одним явлением, увиденным с двух сторон: со стороны власти, которая её производит, и со стороны человека, который в неё уходит. ГИПОТЕЗА Если так, граница «глупость не выбирают, бездумность выбирают» проходит внутри одного процесса: в начале выбор есть, в конце его уже нет.
Масса обычных исполнителей — отдельная тема, рабочее название «Эйхман в миллионах». Опора: Кристофер Браунинг, «Обыкновенные люди» (1992), о 101-м резервном полицейском батальоне; опыты Стэнли Милгрэма с поправкой на критику Джины Перри («За шоковой машиной», 2012). ФАКТ У Браунинга есть деталь, важная для вопроса о вине. Перед первым расстрелом, в Юзефуве в июле 1942 года, майор Трапп предложил тем, кто не может, выйти из строя. Вышли единицы, наказания за отказ не последовало.
Источники
Лактанций. О гневе Божьем, гл. 13.
Д. Юм. Диалоги о естественной религии, ч. X. 1779.
H. Arendt. Eichmann in Jerusalem: A Report on the Banality of Evil. 1963.
B. Stangneth. Eichmann vor Jerusalem. 2011 (англ.: Eichmann Before Jerusalem, 2014).
D. Bonhoeffer. Nach zehn Jahren (декабрь 1942) // Widerstand und Ergebung.
C. M. Cipolla. The Basic Laws of Human Stupidity. 1976; Allegro ma non troppo. 1988.
«Чужие» (Aliens), реж. Дж. Кэмерон, 1986.
INSAG-1. Summary Report on the Post-Accident Review Meeting on the Chernobyl Accident. IAEA, 1986.
INSAG-7. The Chernobyl Accident: Updating of INSAG-1. IAEA, 1992.
Anthropic. Disrupting the first reported AI-orchestrated cyber espionage campaign. Ноябрь 2025.