Глава 3. Человек против алгоритма

Встреча с Кроу была похожа на сцену из старого шпионского фильма. Они сидели за столиком в глубине полупустого, прокуренного бара, где время, казалось, остановилось лет тридцать назад. Старый адвокат смотрел на Аарона своими выцветшими, но все еще пронзительными глазами. — Судья Фемида, — проскрипел он, сделав глоток виски. — Я думал, вы позвоните, чтобы потребовать сатисфакции за то, что моя подзащитная пыталась вас одурачить. А вы приходите с историей, которая звучит еще безумнее, чем ее затея с дневником. — Это не безумие, это факты, — Аарон пододвинул к нему тонкий планшет. — Вот анализ. Вот стихи. Вот личное дело Джулиана. «Темис» не увидела этого, потому что Джулиан не был официальным подозреваемым. Система искала ответ на вопрос: «Виновна ли Эвелин Рид? Да или нет?». Она не была запрограммирована на вопрос: «А что, если виновен кто-то третий, о ком мы даже не подумали?». Кроу медленно, внимательно изучал файлы. Его циничная ухмылка постепенно сползала с лица. Он поднял глаза на Аарона. — Хорошо, допустим. Допустим, вы правы. И что? Вы — судья под следствием. Я — адвокат, чья клиентка признана виновной в фабрикации улик. Нас с вами слушать никто не станет. Нам скажут, что это агония двух проигравших, и закроют дело. — Поэтому мы не пойдем официальным путем. Мы заставим их пересмотреть дело, используя их же оружие. — То есть? — «Темис-7», — сказал Аарон, и Кроу поморщился. — Система допустила две ошибки. С Картером и с Рид. Но она сама этого не знает. Официально, ошибка с Картером была списана на «аппаратный микросбой». Программное обеспечение по-прежнему считается безупречным. Мы докажем, что это не так. План Аарона был дерзким и опасным. Используя свои знания об архитектуре «Темис», он мог инициировать глубокую внутреннюю диагностику системы. Не просто проверку оборудования, а полный аудит логических цепочек и протоколов принятия решений по всем вынесенным приговорам. — Система запрограммирована на самообучение и поиск аномалий. Если мы «скормим» ей новые данные — стихи Джулиана и факт его связи с Торном — и запустим перерасчет по делу Рид, она сама найдет свою ошибку. И когда машина признает, что ошиблась дважды, это вызовет цепную реакцию. Это будет уже не микросбой. Это будет системный кризис доверия. Они будут вынуждены пересмотреть все сто два дела. — А где гарантия, что они позволят вам это сделать? — скептически заметил Кроу. — Ваш доступ заблокирован. — А ваш — нет, — ответил Аарон. — Как адвокат по одному из пересматриваемых дел, вы имеете право подать ходатайство о полной технической экспертизе системы, которая вынесла неверный приговор вашему клиенту. Раньше бы вам отказали. Но сейчас, после скандала с Картером, они не посмеют. Они будут вынуждены предоставить доступ. А я скажу вам, куда смотреть и что искать. Кроу долго молчал, вертя в пальцах стакан. — Это может стоить нам обоим карьеры. И свободы, если они решат, что мы занимаемся взломом. — У Эвелин Рид на кону жизнь. А у нас всех — правосудие, которое не зависит от случайного сбоя в микросхеме, — тихо, но твердо сказал Аарон. Старый адвокат посмотрел на него, и в его глазах блеснул огонек азарта, который Аарон не видел в зале суда. — Черт с вами, Фемида. Я не могу упустить шанс утереть нос этой жестяной банке. Я в деле. Следующие недели превратились в напряженную партию в шахматы. Кроу, используя все свое мастерство крючкотвора, заваливал суд ходатайствами. Юристы корпорации-разработчика «Темис» яростно отбивались. Но общественное мнение, подогретое историей невинно осужденного Картера, было на стороне Кроу. Суд, скрепя сердце, дал разрешение на ограниченную диагностику. Аарон и Кроу работали по ночам в пустом офисе адвоката. Аарон, как призрак, бродил по виртуальным коридорам «Темис», указывая Кроу, какие запросы формировать. Это была ювелирная работа. Они не могли показать, что знают про Джулиана. Они должны были заставить машину найти его самой. Они подали ходатайство о «расширенном лингвистическом анализе всех текстовых улик с перекрестной проверкой по расширенной базе данных, включающей непубличные литературные архивы». Формулировка была туманной, но юридически корректной. Корпорация возражала, но суд удовлетворил запрос. Они не видели в этом угрозы. И вот настал день. В закрытом режиме, в присутствии судейской комиссии и технических специалистов, Кроу запустил перерасчет по делу №735 с новыми параметрами. Аарон следил за процессом из дома, подключившись к трансляции через защищенный канал, который ему организовал Кроу. Он видел, как на экране бегут строки кода, как система заново перемалывает терабайты информации. Вот она снова анализирует дневник. Сравнивает со стилем Рид. Вывод: не совпадает. Сравнивает со стилем Торна. Вывод: не совпадает. Раньше на этом процесс заканчивался. Но теперь у нее была новая команда. «Перекрестная проверка по расширенной базе». Система начала поиск. Она просеивала миллионы текстов. И через несколько минут нашла. Нашла тот самый сборник стихов. Имя автора: Джулиан. А дальше «Темис» сделала то, на что и рассчитывал Аарон. Она начала действовать по своей железной, безупречной логике. Обнаружен новый потенциальный автор улики №47. Имя: Джулиан Аскер. Статус: свидетель по делу №735, заместитель покойного. Запрос: Провести лингвистический анализ всех доступных текстов Джулиана Аскера. Анализ завершен. Сходство стиля с уликой №47: 98.2%. Обнаружена прямая цитата. Вывод: Автор улики №47 с высокой вероятностью — Джулиан Аскер. Запуск перерасчета вероятности виновности Эвелин Рид с учетом новых данных. На главном экране в зале повисла шкала. 99.99%. Она замерла. А потом цифры начали падать. 80%… 60%… 40%… 10%… Итоговый результат: Вероятность виновности Эвелин Рид: 1.34%. Вероятность виновности Джулиана Аскера: 98.66%. А затем система выдала сообщение, которого никто не ожидал. КРИТИЧЕСКАЯ ЛОГИЧЕСКАЯ АНОМАЛИЯ. Выявлено два неверных приговора (№734, №735), вынесенных на основе неполных или некорректно обработанных данных. Первопричина: ограничение эвристических алгоритмов рамками предоставленных следствием ролей (обвиняемый/жертва). Система не способна гарантировать 100% точность в ситуациях, требующих интуитивного допущения о наличии неустановленных третьих лиц или неявных мотивов. РЕКОМЕНДАЦИЯ: Инициировать полный аудит всех вынесенных приговоров. Приостановить использование системы “Темис-7” в делах с косвенными уликами до полной перекалибровки эвристического ядра. В зале заседаний повисла мертвая тишина. Машина только что вынесла приговор самой себе. Аарон откинулся на спинку стула и закрыл глаза. Они победили. Но это была только половина дела. Теперь нужно было заставить людей услышать то, что сказала машина. И заставить их ответить на главный вопрос: что делать дальше? Ведь теперь под сомнением было все. Каждый из ста двух приговоров. Вся эра «безошибочного правосудия».