Марина Барсук как символ судебного регресса: панический отпор «мыслящей машине» и внедрению ИИ в систему ради сохранения хаоса, коррупции и человеческой неэффективности

Мы постоянно говорим о важных проблемах украинского правосудия, таких как кризис доверия, чрезмерная нагрузка, коррупционные риски и другие.

На это регулярно обращают внимание европейские партнеры, например Еврокомиссия недавно обнародовала отчет о движении стран-кандидатов в ЕС, где прямо на это указала.

В такой сложной ситуации, когда судьи перегружены рутиной, а общество требует быстрых и эффективных решений, появляется большой технологический соблазн увидеть в ИИ замену судьи.

Я хорошо помню времена, когда судьи писали решение от руки, а в судах работали специальные отделы, печатавшие тексты решений. Со временем печатные кодексы, страницы которых были оклеены вырезанными изменениями, уступили место электронным ресурсам. Больше не нужно было делать вырезки, они обновлялись автоматически. Тогда никому и в голову не могло прийти предложить заменить судью автоматическим банком знаний, все логически понимали, что цифровые инструменты были помощью, освободившимися от рутины, но не избавившими нас от необходимости мыслить, анализировать, толковать нормы права и нести ответственность.

История развития ИИ

Хотя мы часто представляем искусственный интеллект как свежее открытие современности, его корни уходят гораздо глубже, в 1950 год, когда английский математик Алан Тюринг  бросил вызов миру  своим провокационным вопросом: Может ли машина думать? А в 1956 году, на Дартмутской конференции Джон Маккари, Клод Шенон, Марвин Минский и Герберг Саймон поставили своей целью создание машины, которая сможет мыслить, и впервые использовали термин Artificial Intelligence.

Это было начало закладки новой научной дисциплины, и в 1959 году Джон Маккари и Марвин Минский основали  Лабораторию искусственного интеллекта в Массачусетском технологическом институте.  Она стала одним из первых в мире научных учреждений, посвященных исследованию и развитию "мыслящих машин", где с 1960-х годов и начали предпринимать первые попытки проверки идей Тюринга на практике. Именно на базе данной научной лаборатории появились первые компьютерные программы, в частности ELIZA.

А в 2003-м эта лаборатория слилась с  Лабораторией компьютерных наук, родив CSAIL – Computer Science and Artificial Intelligence Laboratory, ныне стоящую как гигантский мост между прошлым и будущим. Именно здесь рождались инновации, которые впоследствии воплощались в таких технологиях как поисковые системы (Google), интеллектуальные помощники, автоматические транспортные системы, робототехнику и современные нейросети, изменившие наш образ жизни навсегда.

И именно появление в 2017 году  архитектуры Transformer , на которой построены современные большие языковые модели, создало новый соблазн увидеть в LLM не просто помощника, а именно мыслящую машину и, соответственно, панацею от наших проблем с нагрузкой, кадрами и даже коррупционной составляющей.

Этот соблазн стал питаться идеей, что машина может быть умнее и, соответственно, справедливее. Но многим знакомы ситуации, когда непонятно, почему алгоритм удалил пост в Facebook и какие именно нормы сообщества были нарушены. Как следствие, непонятно, как и где это можно исправить или обжаловать, поскольку алгоритм непрозрачен и работает на непонятных принципах. Вопрос риторический: доверили ли бы вы свою жизнь и свободу алгоритмам социальной сети? Вряд ли.

Необходимость правового регулирования

Новые технологии, как "паутина", стремительно оплетают всю планету, проникая во все сферы нашей жизни, государственные системы, каждую профессию, достижения и наработки человечества, что поднимает серьезные этические и правовые вопросы.

Поэтому международные организации – ООН, ЮНЕСКО, Совет Европы, ЕС и ОЭСР отметили необходимость разработки единых международных правил, способных гарантировать безопасное развитие искусственного интеллекта без противоречия базовым ценностям – правам человека, демократии и верховенству права.

Первые шаги в этом направлении были сделаны в 2021 году, когда ЮНЕСКО приняла  Рекомендации по этическим аспектам ИИ . Это первый глобальный документ, определивший общие моральные стандарты для всех государств.

В то же время, Еврокомиссия предложила  проект Акта об искусственном интеллекте  – первого в мире комплексного документа, построенного на принципе оценки рисков. Документ должен был упорядочить использование ИИ во всех областях жизни, установив допустимые пределы опасного применения. После долгих обсуждений и доработок документ  был принят Европейским парламентом  в марте 2024 года, вступив в силу 1 августа того же года и начав развитие правового регулирования ИИ в рамках ЕС.

Также, в сентябре 2024 года Совет Европы открыл для подписания Рамочную конвенцию о ШИ, правах человека, демократии и верховенстве права, направленную на обеспечение развития и использования искусственного интеллекта в соответствии с основными ценностями Совета Европы – прав человека, демократии и верховенства права.  Украина присоединилась  к настоящей Конвенции в мае 2025 года, подтвердив свое европейское сознание и признание необходимости регулирования границ внедрения и использования ИИ во времена стихийного развития алгоритмических технологий.

Следует отметить, что, несмотря на введение правового регулирования ИИ в рамках его общего использования, в сфере правосудия еще не было международного комплексного подхода к его использованию. Локально, в разных государствах начали появляться единичные пилотные проекты с применением алгоритмов в судебной системе, однако единых международных стандартов по границам и принципам производства ИИ в судопроизводстве не существовало.

Именно поэтому знаковым событием международного масштаба стало представление доклада Специальной докладчицы ООН Маргарет Саттертвейт  Использование искусственного интеллекта в судебных системах: перспективы и развитие  (А/80/169), во время 80-й сессии Генеральной ассамблеи ООН 16 июля 2025 года.

Отчет был подготовлен под эгидой Совета ООН по правам человека и должен был дать оценку как системы искусственного интеллекта уже влияющих на осуществление правосудия, есть ли риск угрозы независимости правосудия и права человека на справедливый суд.

В докладе Специальная докладчик систематизировала уже существующие практики разных стран и определила преимущества применения ИИ, риски и границы в которых он может сосуществовать с основополагающими принципами верховенства права.

Примеры из других стран:

• Латвия  использует алгоритмы для распределения дел между судьями, что повышает эффективность, но требует аудита во избежание манипуляций.

• Бразилия  применяет систему Victor в Верховном суде для анализа исков и сортировки дел. Это уменьшает нагрузку, но риски включают в себя непрозрачность алгоритмов и зависимость от частных компаний. Однако, несмотря на успешность проекта, были отмечены риски непрозрачности алгоритмов и зависимость от технических решений частных компаний – разработчиков.

• Франция  запретила проанализировать судей аналитику после попыток использования открытых данных, чтобы сохранить независимость.

• Марокко, Венесуэла и Уругвай  разрабатывают стратегии для ИИ в административных процессах, таких как электронный документооборот, расписания, коммуникация без вмешательства в существенные решения.

• Канада  легко преодолевает языковой барьер, поскольку в государстве несколько официальных языков, и ИИ предоставляет участникам процесса доступ к автоматическому переводу, тем самым обеспечивая быстрый и эффективный доступ к суду.

• США  используют ИИ для автоматического предоставления правовой помощи или предварительной оценки рисков в уголовном процессе. Именно американский опыт стал толчком для регулирования использования алгоритмических технологий, поскольку при использовании внедренной программы COMPAS была обнаружена предвзятость программы по расовому признаку.

Во многих государствах методы употребляются для аналитической и статистической работы: помогают выявлять отдельные категории споров, отслеживать сроки рассмотрения, анализировать практику судов. Кроме того, создание электронных баз судебных решений, в которые интегрированы системы поиска, фильтрации и изложение мотивов решения на коротком понятном языке, сделало информацию более доступной для общества, что положительно влияет на повышение доверия к судебной власти.

В докладе ООН отмечается, что использование искусственного интеллекта может не только оптимизировать работу судов, но и реально расширить доступ к правосудию, особенно социально уязвимым группам населения.

Однако, несмотря на существование положительных наработок, Специальная докладчик ООН в ходе исследования выявила ряд рисков и подчеркивает, что именно человеческий контроль является ключевым условием безопасного и эффективного использования ИИ в системе судоустройства.

Предостережение отчета

Системные риски, например, как в случае с Facebook, когда алгоритм не позволяет проследить логику принятия решения, пользователь не понимает истинные причины удаления поста, и главное, в случае обжалования этого решения, не понятно приведет ли данное обжалование к определенному результату, поскольку жалобу будет рассматривать тоже алгоритм.

То есть, используя ИИ в процессе принятия решений или даже для предварительной оценки сути дела, суд и стороны упускают возможность проверить его обоснованность. Программа на основе своей алгоритмической оценки дает вывод, который нельзя проверить и понять, какие именно критерии повлияли на формирование именно такой позиции, что противоречит принципам состязательности и публичности правосудия, поскольку участники не могут отследить, какие критерии повлияли на результат.

В Отчете уделено особое внимание этой проблеме, докладчик называет данный эффект "эффектом черного ящика" -  невозможностью воспроизвести логику, по которой система пришла к определенному выводу.

Следующей опасностью является то, что языковые модели учатся на большом объеме данных, в которых  уже присутствуют перекосы, неточности и стереотипы , но ИИ придает этому вид рационального суждения, ведь "машина умнее".

Это, по сути, цементирование существующих стереотипов под видом объективности и речь уже не идет об индивидуализации, прямо противоречащей принципу "быть услышанным судом".

Отдельный раздел рисков описывает  угрозу алгоритмического давления на судью  или участников процесса, то есть языковая модель буквально навязывает что-то как правильный ответ. В случае с судьей, который подвергся такой провокации от машины, это может иметь катастрофические последствия.

Также докладчик отмечает перспективу развития отдельного направления  манипулирования и управления судебным процессом  со стороны тех, кто создает и регулирует алгоритм, частная компания или правительство, поскольку они оказывают влияние на алгоритм. И здесь снова появляется эффект "черного ящика" в сочетании с концентрацией технологической власти, поскольку фактически часть судебной инфраструктуры передается под контроль третьих лиц, которые являются неподотчетными.

Защите персональных данных также уделено много внимания, поскольку без этого они могут быть раскрыты или использованы вне судебного процесса.

В итоге отчет ООН подчеркивает: каждое государство, внедряющее системы искусственного интеллекта в судебной сфере, должно предусмотреть механизмы прозрачности, аудита права человека на обжалование алгоритмических решений и именно человеческий контроль является ключевым условием безопасного и эффективного использования искусственного интеллекта и судебной системы.

Пример Великобритании и перспективы Украины

Отчет ООН подчеркивает необходимость четкого определенного правового регулирования в сфере правосудия и здесь уместен прагматический опыт Великобритании.

Официальным аппаратом судебной власти Англии и Уэльса в апреле 2025 года  были даны рекомендации судьям  (обновили их 31 октября 2025 года).

В этом документе четко подчеркивается, что использование ИИ должно быть безопасным, нравственным и ответственным. Его ключевая идея состоит в том, что судьи могут использовать ИИ как вспомогательный инструмент, но не вместо собственного анализа или усмотрения.

Великобритания определила, что каждый судья несет личную ответственность за достоверность материалов, подготовленных под именем алгоритма, а это и есть тот же баланс ответственности.

Что касается Украины, то у нас в своей практике есть определенные наработки именно во вспомогательном направлении применения алгоритмов через использование Единой судебной информационно-телекоммуникационной системы, электронного документооборота.

Однако, хотя Украина и присоединилась к Рамочной конвенции, национальных норм правового регулирования у нас все еще нет. Поэтому следует следовать примерам наших международных стран-партнеров, поскольку технологии развиваются быстро и у нас уже есть примеры, когда стороны процесса используют алгоритмические приложения для предоставления объяснений, ходатайств и даже доказательств, сгенерированных ИИ.

Ключевая рекомендация ООН состоит в том, что ответственность должна нести сама судебная власть. Не правительство, не ИТ-компании, а сами судьи должны проактивно возглавить этот процесс. Потому что этот вопрос касается именно эффективного доступа человека к правосудию и независимости третьей, судебной, ветви власти.

Как только центр принятия решений сместится к алгоритму, под угрозой окажется не только судьба отдельного человека, но и фундамент независимости судебной ветви власти. Ведь судебный процесс – это живой соревновательный процесс, в котором каждая сторона должна быть уверена, что решение принимает мыслящий человек, а не алгоритм. Именно "человеческий" судья способен оценить не только факты, но и моральные, нравственные и социальные аспекты дела, объяснить свое решение и нести за него ответственность.

Возможно, в будущем, когда стороны спора будут сознательно соглашаться на рассмотрение их дела алгоритмом, такая технология сможет выступать своеобразным электронным "третейским судьей", решение которого может проверить реальный судья по ходатайству стороны перед выдачей исполнительного документа, но не самостоятельным элементом правосудия.