Глава 4. Человеческий фактор

Признание «Темис-7» в собственной некомпетентности произвело эффект разорвавшейся бомбы. Мир, привыкший верить в непогрешимость цифрового правосудия, был в шоке. Начался процесс, который в прессе окрестили «Великим пересмотром». Все девятьсот два дела, по которым «Теми» вынесла вердикт, были отправлены на новое рассмотрение. Эвелин Рид была освобождена прямо в зале суда. Джулиана Аскера арестовали в тот же вечер. Прижатый новыми уликами, он раскололся и во всем сознался. Его дьявольский план рухнул под тяжестью логики той самой машины, на которую он так рассчитывал. Казалось бы, справедливость восторжествовала. Но для Аарона Фемиды все только начиналось. Его полностью оправдали. Более того, он стал героем. Человеком, который нашел ошибку в системе и не побоялся бросить ей вызов. Ему предложили возглавить новую комиссию по надзору за судебными ИИ. Ему прочили блестящую карьеру. Но Аарон отказался. Он сидел в своем старом кабинете, собирая вещи. К нему вошел Кроу. Старый адвокат выглядел помолодевшим лет на десять. — Фемида, вы идиот, — без обиняков заявил он. — Вам предлагают власть, о которой другие и мечтать не могут, а вы уходите в отставку. — Я не могу возглавлять то, во что больше не верю, — спокойно ответил Аарон. — Не верите? Да мы же победили! Мы заставили машину признать свою ошибку! Мы доказали, что человек все еще чего-то стоит. — Мы ничего не доказали, Кроу, — Аарон повернулся к адвокату. — Мы лишь заменили одну ошибку на другую. Вы действительно думаете, что Джулиана осудили бы, если бы не признание «Темис»? Нет. У нас была лишь красивая теория, основанная на строчке из стиха. Ни один человеческий суд не принял бы это как главное доказательство. Его осудила машина. Та же самая машина, что осудила Эвелин. Она просто получила новые данные. Кроу нахмурился. — Но в этот раз она оказалась права. — В этот раз. А в следующий? Мы доказали не то, что машина несовершенна. Мы доказали, что она слишком совершенна. Ее логика безупречна, но она слепа. Она не видит того, что не введено в ее уравнение. Она может найти иголку в стоге сена, но никогда не догадается посмотреть под стогом. Аарон подошел к окну. — Я понял одну простую вещь. В правосудии важна не только истина. Важно милосердие. Важно сомнение. Важна способность понять, что ты можешь ошибаться. У «Темис» этого нет. Она не сомневается. Она лишь пересчитывает вероятности. Лео Картер был для нее вероятностью в 99.87%. Эвелин Рид — в 99.99%. В ее мире нет места для той одной сотой процента, в которой и скрывается вся наша человечность. Он повернулся к Кроу. — Мы не можем доверять вынесение приговора машине. Не потому, что она может ошибиться. А потому, что она не может понять, что значит ошибиться. Она не чувствует тяжести этой ошибки. Для нее невинно осужденный — это не трагедия. Это просто сбой в данных. Кроу долго молчал. — И что вы собираетесь делать? — То, что должен был делать с самого начала. Я возвращаюсь в зал суда. Но уже не как оператор. А как судья. Обычный, человеческий судья. Который может уставать, злиться, иметь предрассудки. И который, в отличие от «Темис», будет знать об этом. И каждую ночь засыпать с мыслью, что он мог ошибиться, и эта мысль не даст ему превратиться в бездушного исполнителя. Через год Аарон Фемида снова надел мантию. Проект «Темис-7» не закрыли. Его переформатировали. Теперь ИИ стал лишь совещательным органом, сложным инструментом в руках судьи-человека. Он анализировал улики, находил несоответствия, строил вероятностные модели. Но окончательное решение, окончательный вердикт всегда оставался за человеком. В тот день Аарон слушал свое первое дело после возвращения. Обычная бытовая кража. Улики были косвенными. Показания путаными. «Темис», подключенная к его столу, вывела на экран свой анализ: «Вероятность виновности подсудимого: 72.4%». Раньше эта цифра была бы для него приговором. Теперь это была просто информация к размышлению. Аарон посмотрел на подсудимого — молодого парня, испуганно смотревшего на него. Он посмотрел на потерпевшего, на свидетелей. Он слушал их голоса, вглядывался в их лица, пытался уловить ложь, страх, правду. Он сомневался. Он колебался. Он удалился в свою комнату для совещаний и несколько часов сидел в тишине, взвешивая все «за» и «против». Он чувствовал на своих плечах всю тяжесть ответственности. Вернувшись в зал, он прокашлялся и произнес вердикт, который выстрадал сам. — Именем закона… Он не знал, был ли его вердикт на сто процентов верным. Никто не мог этого знать. Но он знал одно. Этот вердикт был человеческим. И в этом несовершенстве и заключалась его главная ценность. Правосудие вернулось от богов к людям. И только люди, со всеми их недостатками, могли нести это бремя.