VAC 12.00.10 Международное право; Европейское право
VAC 12.00.12 Криминалистика; судебно-экспертная деятельность; оперативно-розыскная деятельность
VAC 12.00.14 Административное право; административный процесс
UDK 34 Право. Юридические науки
GRNTI 10.07 Теория государства и права
BBK 60 Общественные науки в целом
The article analyzes the problem of legal regulation of new public relations arising in the era of digitalization as a challenge to the system of legal knowledge. You substantiate the position that the socio-political and legal processes observed at the present stage, the defining trend of which is digitalization, force researchers not just to take the usual measures to regulate emerging relations, but to qualitatively review the most profound philosophical and theoretical legal conventions and assumptions of jurisprudence. The main part of the work highlights potential areas for revision.
digitalization, legal regulation, artificial intelligence, law, challenges and threats, history of legal thought, theoretical and methodological foundations, legal policy, conceptual and categorical apparatus
Работа выполнена при финансовой поддержке Гранта Президента РФ № НШ-2668-2020.6 «Национально-культурные и цифровые тренды социально-экономического и политико-правового развития Российской Федерации в XXI веке».
Проблематика совершенствования правового регулирования в последние несколько лет является одной из ключевых тем для рассмотрения в юридической науке. При этом, конечно же, следует упомянуть, что умеренный и устойчивый интерес к ней наблюдался всегда, но всё же по ряду причин сейчас следует говорить о некотором тренде, явно не вписывающимся в обыденные обсуждения уже каталогизированной проблематики (наряду с темами прецедента как источника права в российской правовой системе, соотношения права и морали, возможности построения правового государства и т.д.). Так, в настоящий момент в связи с особым запросом на подстраивание правовой системы к уникальным историческим условиям данная тенденция, безусловно, обретает полную очевидность и обращает на себя наиболее пристальное внимание.
Совершенно ясно, что новый виток развития цивилизации, наиболее емко описываемый терминами «промышленная революция», «цифровизация», «научно-технический прогресс» и т.д., ставит перед отдельными людьми, теми институционально-организованными сообществами, в которых они находятся, а также человечеством в целом массу проблем и вопросов. В связи с этим всё чаще в политико-правовых исследованиях делаются серьезные заявления (возрождающие в памяти сюжеты фантастических книг) о кардинальной трансформации и переформатировании различных моделей и режимов политического и правового взаимодействия [21], средством или даже новым субъектом (впрочем, статус этих явлений представляется одной из основных проблем) которого становятся технологии, программы, роботы, автономные алгоритмы и т.д. [22].
Таким образом, становится ясно, что особый интерес исследователей к проблематике правового регулирования возник не на пустом месте, а связан с вполне определенными процессами. Человеческая жизнедеятельность всё больше сращивается и опосредуется цифровой реальностью, что в свою очередь и порождает сферу относительно автономных, устойчивых общественных отношений, которые могут восприниматься в качестве потенциального профилирующего предмета правового регулирования. На данное обстоятельство указывала, например, Т.Я. Хабриева, утверждая, что «в российской науке заметен интерес к этой теме. Исследования нацелены на освоение отдельных, относительно узких, хотя бесспорно важных и требующих решения проблем, связанных с использованием цифровых технологий в правовой сфере» [15].
Однако было бы крайне затруднительно в рамках одной статьи проанализировать всё многообразие рассматриваемых учеными «бесспорно важных и требующих решения проблем», привносимых в социально-политическую и правовую «ткань» современного общества происходящими процессами. Более того, мы полагаем, что проблема правового (а, точнее, позитивно-правового) регулирования цифровой реальности является в этом ряду лишь наиболее заметной частью комплексного вызова, брошенного всему корпусу правового знания. Но именно от нее необходимо отталкиваться, поскольку естественное стремление юристов урегулировать новые отношения привычным образом (по принципу «подобия») или же вовсе отказать им в новизне и уникальности встречается с непреодолимыми в имеющихся системах координат трудностями.
Поэтому мы считаем, что преждевременно говорить как о рецептах урегулирования, так и, собственно, об этих изменениях в отрыве от качественного осмысления мировоззренческой и теоретико-методологической составляющих тех форм мышления и понятийно-категориального аппарата, с помощью которых собираются, обрабатываются и воспринимаются факты. Более того, на наш взгляд, ранее обозначенный вызов в первую очередь обращен к теоретико-методологической части юриспруденции. Характер этого вызова как создает угрозы, так и открывает окно возможностей для теоретической юриспруденции, вынуждая ее пересматривать свои базовые различение, допущения, установки и т.д.
При этом мы полагаем, что в силу ряда особенностей данный пересмотр окажет существенное влияние на отраслевую и прикладную юриспруденцию. Дело в том, что не первый раз в теоретической юриспруденции идут дискуссии о кардинальной смене «парадигмальных установок» и обновлении «познавательного инструментария». Например, от представителей неклассических и(или) постклассических подходов к пониманию права часто можно услышать призывы к фундаментальному пересмотру теоретико-методологических оснований юриспруденции. Последнее, как правило, аргументируется тем, что, во-первых, в философии и социо-гуманитарных науках в XX в. произошли значительные аксиоматические изменения, и, во-вторых, тем, что существующая система юридического знания не соответствует наличной реальности, «схватить» которую и поможет улучшенный теоретико-методологический инструментарий.
Видный представитель постклассической теории права И.Л. Честнов отмечает, что «лингвистический, практический и антропологический повороты не затронули юридическую науку, прежде всего отраслевую» [16]. Тогда как среди событий и процессов, показывающих несостоятельность существующего юридического знания, весьма часто указываются глобализация, конфликт прав человека и социокультурных аспектов права, трансформация роли государства и т.д.[1]
Однако все эти процессы и тем более «аксиоматические сдвиги» за пределами узкого круга пост(не)классиков фактически не возымели никакого влияния не только на отраслевую, но и на теоретическую юриспруденцию. Поэтому то обстоятельство, что в обсуждении цифровизации участвуют как философы с теоретиками права, так и отраслевые специалисты и практики [2; 3; 7][2] указывает на совершенно особый характер имеющейся ситуации. Повторимся, что вряд ли такое можно хотя бы представить в отношении обсуждения значения «лингвистического поворота» для юриспруденции.
Попытаемся проиллюстрировать это следующим образом. Так, А.Ю. Мамычев и П.П. Баранов в качестве проблемы регулирования «цифровых технологий, автономных алгоритмов, машин и роботов» выделяют антиномичный характер их природы. Ее суть состоит в том, что они создаются и используются людьми в качестве объектов, но в то же время «выступают новыми «субъектами истории», поскольку кардинально влияют на взаимодействия людей, являются посредниками и участниками цифровых отношений, на которых сегодня разворачиваются разнообразные процессы» [1].
Выделяемая антиномия, как представляется, не является чем-то характерным исключительно для перечисленных «объектов — субъектов». Мы думаем, что в данном случае исследователи весьма точно общую антиномию неклассической рациональности, суть которой сводится к отказу от субъектно-объектной дихотомии, применяют к сфере цифровизации. Именно проблема регулирования правовой реальности способна сделать очевидные для современной философии положения также очевидными и для юриспруденции. Более того, уже сейчас приемлемыми для политико-правового познания сложной системы взаимодействий человека, робота, автономного алгоритма, различных вещей, событий и т.д. методологическими программами объявляются неклассические философские, социологические и прочие подходы, в которых размывается четкая грань между субъектом и объектом. Примером может служить акторно-сетевая теория Бруно Латура.
Таким образом, именно цифровизация может стать той «дверью», через которую в юридическую науку войдут в качестве действительно эвристически полезных не только для теоретиков, но для отраслевиков (после обработки теоретиками) современные философские и социологические подходы.
Более того, эта тенденция вписывается в логику «вызова и ответа», характерную для развития юридического знания». Ссылки на литературу и на подстрочник в конце предложения оставить [6][3]. Исторически юриспруденция как свод сложносоставного знания развивалась под влиянием тех или иных вызовов. В целом и истории мысли в качестве вызова могут рассматриваться как некоторые внешние события (например, дискриминация искусственным интеллектом определенных категорий населения, транспортная авария с участием беспилотного автомобиля, создание искусственным интеллектом произведений искусства и т.д.), так и некоторая идея, находящая выражение, например, в тексте (позиция одного правоведа, касаемо проблем правового регулирования правовой реальности, точка зрения другого ученого о возможности признания робота в качестве субъект права и т.п.).
Частным случаем последнего варианта является ранее приводимая нами ситуация с реагированием юриспруденции на существенные изменения в философии. Однако, как мы попытались показать, такие чисто теоретические дискуссии вряд ли способны повлиять на всю юриспруденцию. Чаще всего значительные трансформации в юриспруденции происходят на стыке ситуации и ее теоретического осмысления.
Например, возникновение исторической школы права (к которой напрямую генетически восходят трактовки множества понятий и категорий (правоотношение, юридическое лицо, способы толкования права и т.п.) известной нам общей теории права) стало результатом ответа на вызов, брошенный как теоретической юриспруденции, так и практической юридической деятельности процессами кодификации права в немецких землях, последовавших за принятием Гражданского кодекса Наполеона. Вместе с тем внутри юриспруденции этот вызов был представлен через статью А. Тибо, на которую Савиньи ответил собственной работой, от которой отсчитывают начало исторические школы права [12].
Современная, преимущественно позитивистская (господствующая по словам Р. Дворкина) теория права, представленная в первую очередь позитивизмом, органически связана с вызовами и общей исторической ситуацией XIX в., т.е. возрастанием могущества национальных государств, расширениями их участия в частной жизни людей и организованных групп, завершением процесса кодификации и т.д. [18]. Что характерно, в процессе определенной селекции теоретиками правового позитивизма из исторической школы права был отобраны наиболее удобные фрагменты при полном отрицании положений исторического правопонимания.
В свою очередь реакцией на чрезмерную государственную претензию создавать и определять право, а также особенности позитивно-правового мышления юристов в начале XX в. становится социологическое направление в праве. Например, именно против позитивистской юриспруденции с характерными для нее допущениями направляет свой знаменитый труд Эрлих Ойген. В частности, он отмечает, что в позитивистской логике «решение вопроса факта представлено как подчинение установленных обстоятельств дела правовому предложению», что, в свою очередь, объясняется «юридической (позитивно-правовой — автор) манерой мышления» [19].
Приведенные иллюстрации выбраны нами не случайно, и их мы еще коснемся. Подводя итог по этой части, прежде чем перейти к направлениям пересмотра юридического знания отметим, что совершенный историко-идейный экскурс, помимо ранее сказанного, был также призван показать, насколько существующая теория права укоренена в определенных идейно-исторических контекстах. Поэтому, вероятно, текущая ситуация является подобным вызовом, который требует от юридической науки ответа. Более того, можно предположить, что ученые, занимающиеся проблематикой правового регулирования цифровой реальности, могут воспринимать свои действия, т.е. исследования, рекомендации для органов власти, проведение конференций и т.д., не только как чистое познание, но и как противодействие неумолимо протекающим процессам, т.е. как ответ на вызовы и угрозы цифровизации для права[4].
Таким образом, расценивая в целом проблему совершенствования правового регулирования цифровой реальности как вызов для юридического знания, наконец обозначим более конкретно некоторые направления, по которым, как видится, возникает новое пространство для осуждения (мы коснемся только философско- и теоретико-правовых аспектов, поскольку по отраслевым и прикладным вызовам и так различными специалистами сказано довольно много).
Во-первых, как можно догадаться, нельзя обойти стороной наиболее фундаментальную проблему понимания права. Однако обратиться к ней хотелось бы, как может показаться, с несколько неожиданной стороны. Ранее уже были упомянуты случаи дискриминации искусственным интеллектом отдельных категорий населения. Это наблюдалось, например, при использовании искусственного интеллекта работодателями при приеме на работу [20], при расчете вероятности рецидива в американских судах [23] и других случаях. Нам представляется, что именно проблема дискриминации, наблюдаемая в указанных случаях, наиболее очевидно (и радикально) ставит вопрос о сущности права и универсальности права, а также его месте в культуре.
В настоящий момент право понимается как явление, сущностно связанное с некоторым набором естественных прав, равенством и особой моделью рациональности. Вероятно, именно этой системой взглядов обусловлен весьма часто воспроизводимый «эмансипаторский аргумент», суть которого сводится к тому, что роботы со временем получат весь объем прав так же, как его когда-то получили рабы, третье сословие, чернокожие, женщины и т.д. Это случится, поскольку «вся история права указывает на то, что каждое последующее расширение прав на новую общность прежде кажется немыслимым. Мы склонны верить в то, что чье-либо бесправие является естественным положением вещей, а не юридической конвенцией, действующей в поддержку определенного статуса-кво» [24].
Однако именно претензию на универсальность такого понимания права и ставят под сомнение факты дискриминации, которые вскрывают фундаментальные черты права как культурного явления. Важно отметить, что культура — это не область гомогенизации, сливания и уравнивания, а, напротив, пространство различения, что с необходимостью требует его признания, поскольку сама культура как явление начинается с момента различения искусственного и естественного. Например, культуролог Р. Жирар отмечает, что «культурный порядок — не что иное, как упорядоченная система различий; именно присутствие дифференциальных интервалов позволяет индивидам обрести собственную «идентичность» и расположиться относительно друг друга» [4].
Как ни странно, в этом контексте наблюдаемые примеры дискриминации, подобно неудачам переноса правовых институтов из одних «культурно-правовых миров» в другие, могут актуализировать социокультурное направление теоретической юриспруденции, для которого характерна плюрализация (или даже релятивизация) права[5]. Это связано с тем, что робот в этом смысле есть нечто вроде «чистого листа», на котором в ходе машинного обучения запечатлеются самые неочевидные аспекты тех или иных правовых практик. То обстоятельство, что искусственный интеллект несет на себе неизгладимый отпечаток материала (а следовательно, социокультурной среды), на котором он обучен, вряд ли можно подвергать сомнению. Например, обученный на российской судебной практике ИИ склонен выносить оправдательные приговоры столь же редко, как обычный судья [14].
Всё это вписывается в противостояние друг другу разных типов правопонимания и поднимает ряд старых проблем вроде наличия единого понятия права, что достижимо в позитивизме, но невозможно в социологической юриспруденции (к которой примыкает социокультурный подход к праву). Однако в еще более широком философско-правовом контексте может идти речь о праве как «оплоте человечности». Дело в том, что универсалистское понимание права не столько подчеркивает уникальность человеческого существа, сколько размывает и постоянно расширяет «человечность» (humanity), тогда как социологическое, напротив, может выступать в качестве философско-правовой модели, внутри которой «человечность» сохраняется через приобщенность существа к определенной системе различений и месту в ней (что, впрочем, теоретически не исключает и признания правосубъектности роботов в таких локальных сообществах).
Конечно, особую опасность представляет ситуация, когда робот начинает дискриминировать человека не за какие-то отдельные качества, а за его человеческий статус. Но тут мы, скорее, покидаем культурный уровень и переходим на антропологический (если он есть как нечто отличное от сугубо биологической составляющей человека). Такое в полной мере возможно лишь с еще не созданным «сильным» искусственным интеллектом[6], для которого в то же время понятие «человек» может означать что-то совершенно особое. Иначе говоря, теории права, прежде чем продумывать теоретические и практические меры защиты от потенциала «сильного» искусственного интеллекта, следует решить проблемы, которые уже сейчас ставятся практикой использования «слабого» искусственного интеллекта.
Таким образом, уже на этом этапе мы сталкиваемся с большим количеством вызовов, на которые теория права может попытаться отреагировать. При этом в рамках разных теоретико-методологических схем и концептуализаций имеющиеся факты могут восприниматься по-разному, выстраиваясь в общее пространство того или иного правового учения.
Во-вторых, огромные затруднения вызывает представление о статусе и социальной функции права. Иными словами, на данном уровне необходимо выяснить, является ли право сугубо инструментальным явлением или же оно имеет субстанциональный характер. Эта философско-правовая проблема, безусловно, зависит от типа правопонимания, а на прикладном уровне она наиболее тесным образом коррелирует с представлением о возможностях правовой политики в сфере нормативно-правового регулирования цифровой реальности. Можно сказать, что тот или иной образ правовой политики основан именно на тех допущениях, о которых сейчас пойдет речь.
Споры о предмете и содержании правового регулирования цифровой реальности ставят важный вопрос о роли права в целом. Здесь наиболее отчетливо прослеживаются две тенденции — догоняющего (оформляющего, подстраивающегося) и опережающего (превентивного) развития, каждая из которых основана на особом представлении о социальной функции права.
Например, А.Ю. Мордовцев, указывая на «оформляющий» (догоняющий, подстраивающийся) характер правового регулирования, отмечает, что «в правовой сфере не может быть применен принцип «опережающего развития» (некий принципиальный «правовой контур» создается как юридическая модель до появления соответствующих ей общественных отношений), в противном случае в юридической науке следует признать возможность построения предметной области «юридической футурологии» [10]. Соответственно, в этом контексте задача права состоит в юридизации (через огосударствление) самостоятельно складывающихся общественных отношений, связанных с обращением и использованием роботов, цифровых алгоритмов, технологий дополненной реальности, искусственного интеллекта и т.д. То есть право лишь поддерживает, защищает и закрепляет наиболее полезные с точки зрения государства отношения.
Вместе с тем представляется, что «юридическая футурология» как направление или раздел юриспруденции, а также необходимое для его возникновения признание возможности «опережающего развития» не только не является делом будущего, но, напротив, отсылает нас к прошлому. Дилемма между «оформляющим» и «опережающим» правовыми развитиями проистекает в современном виде из XIX в. (собственно, оттуда она в силу нерешенности и была унаследована) в связи с теми событиями, которые уже были обозначены (кодификации, рост и расширение государственного участия в жизни, бюрократизация, трансформация и ломка привычных форм организации социума и т.д.).
Логику опережающего развития очень четко иллюстрирует следующее высказывание В.Г. Мальцева: «Право никогда не бывает лишь инструментом в руках государства, оно по сути должно нести некий «высший план» общественного развития, предначертанный правопорядок, по отношению к которому государство и его управление, в свою очередь, выступают в инструментальной роли, т.е. являются средством его достижения, постоянно корректируемыми по юридическим схемам» [8]. Тут как раз и идет речь о том самом «юридическом контуре» (А.Ю. Мордовцев), который, являясь «предначертанным правопорядком», накладывается на существующие, зарождающиеся и потенциальные общественные отношения с целью трансформировать их и придать им в перспективе соответствующий заявленному моделью будущего вид. Таким образом, в этом случае идет речь о социальном конструировании посредством права.
Однако нам бы хотелось отметить, что оба этих подхода инструментальны. Данное утверждение можно попытаться обосновать тем, что в первом случае право воспринимается в качестве инструмента отбора и фиксации наиболее полезных, устойчивых, распространенных, выгодных отношений в сфере применения роботизированных технологий, виртуальных пространств, автономных алгоритмов и т.д. Тогда как во втором случае право является инструментом достижения определенного состояния всё в той же сфере.
Таким образом, на наш взгляд, имеющая место ситуация и запрос на правовое регулирование цифровых и роботизированных систем отлично иллюстрируют, что право в современной теории права понимается скорее инструментально. Однако вновь оговоримся, если потенциальной задачей урегулирования является фундаментальная защита человека, то для этой цели выглядит более пригодным субстанциональное понимание права, что выводит нас не только за рамки XIX в. (повторимся — откуда и растут противоречия между догоняющим и опережающим характерами права), но и за границы Нового времени, отсылая к античной и средневековой политико-правовой мысли.
В-третьих, речь может идти о комплексе теоретико-правовых проблем, касающихся принципов права и понятийно-категориального аппарата правовой теории. Именно в эту группу среди прочего как понятийные проблемы следует поместить наиболее часто обсуждаемые вопросы юридической ответственности роботов и трансформацию категории «субъекта права» (включая возможность признания робота субъектом права). Бесспорно, последнее может обсуждаться на философско-правовом уровне (достаточно вспомнить выделяемую учеными антиномичную природу цифровых технологий, которые могут обладать свойствами как объекта, так и в особом смысле субъекта), однако не будем углубляться в обсуждения, в которых и так много сказано, но лишь подчеркнем связь категории «субъект права» с иными понятиями юриспруденции.
Трансформация субъекта права с необходимостью влечет пересмотр теории правовых отношений, а поскольку последние теснейшим образом связаны с представлениями о правовых нормах, то и учение о них нуждается в качественном дополнении. Таким образом, и здесь возникает целый комплекс теоретико-правовых проблем, которые требуют своего решения.
По какому пути пойдет юриспруденция, пытаясь урегулировать цифровую реальность, — невозможно предугадать, поскольку, как мы убедились ранее, для нее характерна контингентность в развитии. Тем не менее можно предположить, что именно в наше время живут и трудятся теоретики, которые зададут вектор ее изменения, а их имена и подходы войдут в учебники по истории правовой мысли. Но останется ли в этом мире субъект, который сохранит чувствительность к истории? Этот вопрос мы оставим открытым.
[1] Можно заметить, что большая часть текстов представителей пост(не)классической юриспруденции была написана до начала активной проблематиции юристами процессов цифровизации. Хоть это и сказано, скорее, в защиту данного теоретического направления, тем не менее нам важно подчеркнуть, что основной повод к пересмотру науки о праве его представители видят не столько в практике, сколько в философии.
[2] В целом примечательно, что в российской юриспруденции по данной проблематике крайне редко можно встретить публикацию, изданную ранее 2017 г.
[3] В данном источнике можно увидеть методологические основания подхода, с позиции которого излагается фрагмент, посвященный интеллектуальной истории правовой науки.
[4] Здесь важно сделать методологический комментарий. Мы полагаем, что по этому аспекту внутри юриспруденции можно выделить две модели, выкристаллизовавшиеся в истории правовой мысли. Первую условно можно назвать шмиттианская (от К. Шмитта), а вторую — кельзенианская (от Г. Кельзена), поскольку именно у этих авторов они представлены в наиболее чистом виде. Шмиттианская позиция состоит в том, что правовой науке в лице правоведов надлежит реагировать на вызовы времени наиболее непосредственно, путем формулирования направлений и конкретных требований для проводимой государством правовой политики. Тогда как кельзенианская модель предполагает максимальное отдаление науки от решения вопросов правовой политики (в духе «как сделать лучше») и концентрации лишь на описании явлений, входящих в предмет правоведения.
[5] Конечно, вряд ли современные цивилизованные страны (к числу которых, безусловно, относится и существующая Российская Федерация) могут на официальном уровне обсуждать факты дискриминации не в отрицательном контексте. Напомним, что ч. 2 ст. 19 действующей Конституции РФ запрещает дискриминацию и гарантирует равенство прав и свобод независимо от пола, расы, национальности, языка, происхождения и т.п. Это касается не только законодательства России. Так, Европейская этическая хартия использования искусственного интеллекта в судебной и правоохранительной деятельности указывает недискриминацию в качестве одного и важнейших принципов выстраивания правовой политики в сфере искусственного интеллекта. Эти обстоятельства, разумеется, сводят к минимуму заинтересованность как государственных, так и международных органов в подобного рода исследованиях.
Однако, мы считаем, что в более широком политическом спектре размышления на эту тему могут быть интересны представителям самых разных политических движений, которые классически можно разделить на левые и правые. Для первых факт дискриминации со стороны роботов, наученных на примерах деятельности людей, в очередной раз подтвердит неравенство, эксплуататорский характер существующего общества, скрытый ширмой лозунгов о равных возможностях и гарантиях, естественных правах и т.д., что станет дополнительным аргументом в пользу преобразований и необходимости продолжения борьбы за всеобщее равенство. Тогда как для вторых данное обстоятельство, скорее, напротив, докажет представления о естественном порядке, иерархии и неравенстве, над которыми оказался не властен эмансипаторский проект, в практическом плане берущий свое начало во Французской революции.
Впрочем, если отвлечься от подобного уровня допущений, в академическом пространстве, правда, в ином контексте, высказывались мысли относительно роли социокультурного измерения в цифровизации. Так, при «формировании правовой концепции и разработке этических стандартов» регулирования создания и использования роботизированных технологий и искусственного интеллекта предлагается, помимо учета требований, предъявляемых универсальными принципами и моделями регулирования, а также спецификой формально-юридического языка, принимать во внимание социокультурную составляющую.
[6] Здесь следует ввести и прояснить разницу между «слабым» и «сильным» искусственным интеллектом. Под «слабым» искусственным интеллектом понимается алгоритм, способный, обобщая массив полученной информации, делать выводы применительно к ранее неизвестным ему примерам. Тогда как под «сильным» искусственным интеллектом подразумевается интеллект, обладающий сознанием. Такой вариант искусственного интеллекта до сих пор не создан.
1. Baranov P.P., Mamychev A.Yu. Digital transformation of law and political relations: main trends and guidelines. Baltic journal of Humanities research. 2020, no. 1, pp. 357-361.
2. Gladysheva O.V. Digitalization of criminal proceedings and problems of ensuring the rights of its participants. Legal Bulletin of the Kuban state University. 2019, no. 1. pp. 31-34.
3. Efimova O.V., Baldina S.A. Digital rights as a new object of civil law. The works of scientists of the Russian Academy of advocacy and notaries. 2019, no. 3, pp. 45-47.
4. Girard R. Violence and the sacred. Moscow, 2010. 400 p.
5. Kelsen G. Who should be the guarantor of the Constitution? Moscow: State: law and politics, 2013. Pp. 359-410.
6. Collingwood P. The idea of a story. Autobiography. Moscow, 1980. 486 p.
7. Lebedev V.A. Limits of digitalization of labor rights. Accounting in healthcare. 2019, no. 11, pp. 58-65.
8. Maltsev V.G. Social foundations of law. Moscow, 2007. 800 p.
9. Mamychev A.Yu., Gaivoronskaya Ya.V., Miroshnichenko O.I. Modern doctrinal-legal and ethical problems of development and application of robotic technologies and artificial intelligence systems (on the example of Autonomous uninhabited underwater vehicles). Territory of new opportunities. Bulletin of the Vladivostok state University of Economics and service. 2018, no. 10(3), pp. 135-150.
10. Mordovtsev A.Yu. Social nature of law and robotics: features of the subject of legal regulation. Robots declare their rights: doctrinal and legal bases and moral and ethical standards for the application of Autonomous robotic technologies and devices: collective monograph. Moscow, 2020, pp. 11-15.
11. Russell S., Norvig P. Artificial intelligence: a modern approach. Moscow, 2006. 1410 p.
12. Savigny F.K. von. On the calling of our time to legislation and jurisprudence. System of modern Roman law, Vol. 1. Moscow, 2011. 343 p.
13. Skinner K. Meaning and understanding in the history of ideas. Cambridge school: theory and practice of intellectual history. Moscow, 2018, pp. 53-122.
14. Skugarevsky D., Titaev K. Vedomosti. URL: https://www.vedomosti.ru/opinion/articles/2019/12/19/819082-spasut-roboti-sudi.
15. Khabrieva T.Ya. Law before the challenges of digital reality. Journal of Russian law. 2018, no. 9, pp. 5-16.
16. Chestnov I.L. Scientific novelty of post-classical jurisprudence. Russian journal of legal research. 2016, no. 2, pp. 7-15.
17. Schmitt K. The guarantor of the Constitution. Moscow: State: law and politics, 2013. Pp. 28-220.
18. Schmitt K. On three types of legal thinking. Moscow: State: law and politics, 2013. 448 p.
19. Ehrlich O. Fundamentals of the sociology of law. St. Petersburg, 2011. 704 p.
20. Angwin J., Larson J., Mattu S. Kirchner L. Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. Propublica. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
21. Civilizational modeling of political and legal development of the society in the XXI century. A. Mamychev, A. Okorokov, T. Bespalova et al. Revista Amazonia Investiga. 2018, no. 7(15), pp. 49-57.
22. Doctrinal-legal and ethical problems of developing and applying robotic technologies and artificial intelligence systems (using autonomous unmanned underwater vehicles). P. Baranov, A. Mamychev, A. Mordovtsev et al. Bulletin of the National Academy of Management Personnel of Culture and Arts. 2018, no. 2, pp. 465-472.
23. Rise of the racist robots - how AI is learning all our worst impulses. The Guardian. URL: https://www.theguardian.com/inequality/2017/aug/08/rise-of-the-racist-robots-how-ai-is-learning-all-our-worst-impulses.
24. Stone C.D. Should Trees Have Standing: Towards Legal Rights for Natural Objects. Los Altos, CA: William Kaufmann. 1974, 102 p.
