Искусственный интеллект в зале суда: будущее уже здесь?

Современные технологии проникают в самые различные сегменты нашей жизни. Роботы всё чаще встречаются в промышленности, на транспорте, в медицине, в коммуникационной среде. В этом смысле юриспруденция оказалась намного консервативнее, однако и эта сфера не остаётся на обочине прогресса. О том, как юристы используют искусственный интеллект, какие препятствия их ждут на этом пути и почему до роботов-судей пока далеко, рассказывает портал profiok.com.

А судьи кто?

«Когда судья-контролёр объявил, что сейчас будет вынесен приговор, в зале зевали и шептались. Всё было ясно. Наконец воцарилась тишина. Послышалось мелодичное позвякивание, похожее на сигнал лифта, и почти одновременно вспыхнули табло на трёх машинах жюри: виновен в предумышленном убийстве. А затем и главная судейская машина вынесла приговор: лишение жизни или полная переделка по выбору подсудимого. Срок апелляции – сорок дней», – к счастью, это не реальный репортаж из зала суда, а всего лишь эпизод из книги советского фантаста Зиновия Юрьева «Полная переделка». По этой книге позже был снят фильм «Идеальное преступление» (Киностудия им. Горького, 1989).

Сюжет, в общем, предсказуем, как предсказуема, к сожалению, и человеческая природа. Как говорит один из персонажей Юрьева, деньги практически всемогущи, а раз так, вряд ли найдётся область, где они бессильны. Не получается подкупить беспристрастный электронный суд – значит, нужно его обмануть. А если он доверяет только фактам, значит, придётся купить факты.

Так и поступают злоумышленники в сюжете, придуманном Зиновием Юрьевым: по заказу богатых клиентов они фабрикуют «неопровержимые» для электронных судей факты и отправляют за решётку невинных людей. Заканчивается всё относительно хорошо: находится герой, расправляющийся с отрицательными героями их же методами. Правда, финал всё равно безрадостен: зло в мире никуда не исчезло, а беспристрастность устроенной по последнему слову техники электронной судебной системы по-прежнему играет на руку тем, кто выступает на «тёмной» стороне.

Как ни странно, с позиций сегодняшнего дня ни фильм, ни книга не выглядят устаревшими. Разве что происходящее на экране поражает чуть меньше, чем, наверное, поражало неискушённого зрителя конца 1980-х. На смену ЭЛТ-мониторам давно пришли жидкокристаллические, цифровые диктофоны уверенно вытеснили громоздкие кассетные, это правда. Но правда и то, что технологии дипфейк (deepfake), то есть подделка аудиозаписей и видеоизображений, перешли из разряда фантастики в категорию самой что ни на есть обыденности.

Можно ли в такой ситуации доверить принятие окончательного решения «роботу в мантии»? Мнения экспертов расходятся. Однако стоит понимать, что это вопрос всё ещё будущего, а не настоящего. В нашей реальности алгоритмы несовершенны, законы противоречивы, а искусственный интеллект в том виде, в котором мы привыкли его себе представлять, ещё не создан. К сожалению или к счастью, компьютеры и алгоритмы научились пока только считать, а не понимать.

Почему искусственный интеллект не сможет заменить судей?

О применении искусственного интеллекта в ходе судебных разбирательств давно уже задумываются, например, в США. В стране ежегодно разбирается колоссальное количество дел о лишении родительских прав. Если учесть, что в стране существует прецедентное право, то есть возможность скопировать решение из другого дела, подходящего по параметрам, идея не такая уж и странная. Достаточно найти в базе похожее дело и посмотреть, какое по нему было принято решение. А уж если набрано большое количество данных, то задача и вовсе сводится к анализу статистики и действиям по шаблону.

Беда лишь в том, что статистика – штука коварная. В книге Елены Лариной и Владимира Овчинского «Искусственный интеллект. Судебная система. Этика и право», главы из которой опубликованы на портале Центра междисциплинарных исследований имени С.П. Курдюмова «Сретенский клуб», прямо говорится, что принимать решения на основании статистических данных недопустимо. «Статистика – мощный аналитический и прогнозный инструмент, – признают авторы. – Но статистика – инструментарий для выявления тенденций массовых явлений, поэтому принимать на её основе решения в конкретном случае нельзя».

Далее авторы монографии делают однозначный вывод: «Поскольку подавляющее большинство, если не сказать все, методы искусственного интеллекта базируются на статистике, необходимо чётко и однозначно сказать обществу: что судья-ИИ невозможен». Что ж, поспорить трудно: раз двух одинаковых преступлений не бывает, значит голая статистика без контекста абсолютно бесполезна.

Другое соображение, которое не стоит упускать из виду, заключается в следующем. Алгоритмы пишутся людьми, а значит, так или иначе отражают картину мира своих создателей. Нейронные сети, которые используются в технологиях искусственного интеллекта, базируются на решениях, принятых людьми. При этом по мере накопления данных возможно выявление закономерностей, которые не имеют никакого отношения к принятию решения. Но нейронная сеть так устроена, что непременно примет выявленную закономерность за необходимый паттерн. Например, если по какому-то виду уголовных дел осуждали чаще мужчин, чем женщин, то для искусственного интеллекта пол подсудимого со временем может превратиться в значимый фактор и будет влиять на принятие решения.

В декабре 2018 года Европейская комиссия по эффективности правосудия Совета Европы одобрила Европейскую этическую хартию, содержащую принципы использования искусственного интеллекта в судебной и правоохранительной системах. Это первый международный акт, регламентирующий столь чувствительную и неизведанную сферу. В хартии говорится о необходимости пользовательского контроля: судья вправе не согласиться с решением, предложенным ИИ, а любой участник спора имеет право оспорить такое решение и потребовать суда без применения искусственного интеллекта.

Есть, впрочем, и ещё один аспект, который нельзя не учитывать. «Продвинутыми» технологиями в нашем мире пользуются не только юристы, но и представители криминальных структур, организованной преступности и так далее. Если их действиям не будут противостоять столь же современные технологии, преступники окажутся в заведомо выигрышном положении. Из тех же соображений можно говорить о важности сохранения равенства перед законом или судом: уж если современные технологии используются, то в идеале они должны быть доступны всем.

Таким образом, вопрос о том, проникнет или нет искусственный интеллект в сферу юриспруденции, не стоит. Важно лишь понять, где ему есть место, а какие сегменты навсегда или хотя бы надолго останутся за человеком.

Чем «цифра» поможет судебной системе?

И тем не менее от веяний времени никуда не деться: цифровые инструменты проникают в сферу правосудия. Сложно отказаться от технологий, сокращающих издержки и делающих работу в разы удобнее. В США так называемые «роботы-адвокаты», на основе лучших практик помогающие клиентам с подготовкой исков для передачи в госорганы, ежегодно оказывают услуги на миллиарды долларов.

В Нидерландах, Германии, Франции, Австрии, Польше технологии искусственного интеллекта применяются в системе электронного документооборота в правоохранительных органах и судах. В Великобритании ИИ используется для поиска информации в юридических архивах и хранилищах. В Эстонии в 2019 году была принята государственная программа, предусматривающая применение ИИ для синхронного перевода во время заседаний, а также введение «электронных судей» для вынесения судебных приговоров по несложным делам. В Китае суды применяют технологии ИИ для электронной подачи заявлений. Кроме того, в КНР активно разрабатываются технологии по проверке личности, использованию в разных инстанциях информации о гражданстве, а также точному исполнению судебных решений. А мелкие стандартные ситуации в стране с 2019 года решаются через «мобильные микросуды».

На основе больших данных вполне логично было бы создавать технологии, рассчитанные на предупреждение преступлений. Собственно, во многих странах так и происходит. Например, в Великобритании полицейские активно пользуются платформой Connect, анализирующей банковские транзакции. На основе этих данных можно заметить следы не только свершившегося, но и готовящегося преступления. Подобные системы, разумеется, используются и спецслужбами. Однако с правоохранительной системой всё устроено сложнее, да и толерантность западного общества нередко заводит в тупик. Например, в США с трудом удалось погасить скандал вокруг алгоритма, в который была заложена большая вероятность рецидива преступлений для афроамериканцев, чем для белых граждан страны. И хотя «дискриминация» опиралась в данном случае исключительно на факты, правосудию пришлось идти на поводу у общественного мнения. В Европе правозащитники тоже не дремлют: протесты против использования подобных предиктивных моделей в судебной аналитике и расследованиях периодически вспыхивают в Германии, Франции, Бельгии, Швеции, Дании и других странах.

В нашей стране тоже постепенно накапливаются большие данные. В банке автоматизированной системы ГАС «Правосудие» на сегодня более 80 миллионов дел. Суды общей юрисдикции, как и арбитражные суды, ежегодно принимают сотни тысяч заявлений в электронном виде. Их решения размещаются в интернете. Только в базе данных Верховного суда РФ накопилось более 600 тысяч дел. Было бы странно, если бы не появлялись проекты по цифровизации судебной системы.

Один из таких проектов зарегистрирован на крауд-платформе форума Агентства стратегических инициатив (АСИ) «Сильные идеи для нового времени». Его авторы уверены, что нейросеть вполне в состоянии рассматривать административные дела, анализировать все обстоятельства, давать им правовую оценку и выдавать итоговое решение. Таким образом разработчики намерены исключить коррупционную составляющую и достичь при вынесении решений объективности и непредвзятости. Тема, безусловно, перспективная, но о воплощении этой идеи в ближайшем будущем всё же говорить сложно.

Для начала было бы неплохо оцифровать процессы подготовки судебных решений или хотя бы полностью перевести в электронный вид документооборот, чтобы исключить потерю документов. Можно использовать алгоритмы для поиска ошибок и нестыковок в судебных материалах, для перевода текстов или составления типовых исковых обращений.

Важно помнить, что любой алгоритм – это всего лишь модель, а любая модель  несовершенна и описывает реальную картину лишь частично. Разумеется, люди тоже несовершенны. По всей видимости, с обнаружением «фактов» компьютер справится намного лучше человека. Но дать этим фактам оценку, а тем более понять, сфабрикованы они или нет, он не может. И вряд ли сможет в обозримом будущем. Именно поэтому идеальный судья, принимая решение, всегда руководствуется не только холодным разумом, но и сердцем.