Introdução
No século 21, a humanidade se depara com a questão aguda de introduzir a inteligência artificial (doravante denominada IA) na vida cotidiana. Neste artigo, as definições de "inteligência artificial" e "robô" não são especialmente separadas devido à real convergência desses conceitos. AI é propriedade de um sistema técnico ou de software para realizar funções que anteriormente poderiam ser realizadas exclusivamente por um ser humano ou outro ser biológico. E, neste contexto, não estamos falando sobre a IA mais simples, como um ferro ou uma micro-ondas, estamos falando sobre algoritmos muito mais complexos.Se agora olharmos para os algoritmos de IA como intermediários para atingir nossos objetivos, por exemplo, usamos o Yandex. Navigator "para chegar rapidamente à casa evitando os engarrafamentos, talvez no futuro esses algoritmos se tornem nossos governantes. Se você olhar os bastidores do Yandex. Navigator ”, veremos que milhares de motoristas estão transmitindo dados sobre o estado das estradas a cada minuto. É por isso que o aplicativo sabe como pavimentar de forma mais eficiente o caminho para a casa, economizando nosso tempo. E se houver milhares, não, - milhões de pessoas irão transferir informações sobre si mesmas, suas preferências políticas, estado de saúde e similares para algum aplicativo como "Manager RF" e este algoritmo, levando em consideração dados estatísticos, será,direcionar fundos para apoiar a saúde em uma região, para desenvolver a educação em outra. Nesse caso, a espécie humana simplesmente será diretamente dependente das ações da IA [11]. Parece fantasia, mas estamos nos aproximando disso do que pode parecer. A Microsoft está desenvolvendo e implementando gradualmente o aplicativo "Cortana", que pode se tornar não apenas um assistente, mas também um representante de pleno direito de uma pessoa, por exemplo, durante as negociações. Outras empresas seguem nessa direção: Apple com Siri e Yandex com Alice. Este desenvolvimento tecnológico levanta muitas questões. A IA pode ser reconhecida como autora de uma obra científica ou artística? A IA será igual aos humanos em seus direitos? E, se a IA que conduz o carro causar um acidente, resultando em ferimentos nos passageiros,É possível ir ao tribunal e exigir indenização por danos à saúde não de uma pessoa, mas apenas pensar nisso com IA?! E quem será o responsável: o passageiro ou a IA? Vamos tentar responder a essas perguntas, levando em consideração a opinião de cientistas, por meio de um estudo da prática judicial e da legislação de vários estados.
1. Expressão artificial "Eu". A IA pode ser reconhecida como autora de uma obra científica ou artística?
É amplamente aceito na sociedade que a IA não pode superar uma pessoa, se não em todas, pelo menos em uma área com certeza - isso é uma arte e, infelizmente, esse julgamento é errado.
Enquanto o Deep Blue, que derrotou Garry Kasparov no xadrez, foi bem ensinado as regras do jogo por seus criadores, a IA moderna recebe apenas uma quantidade mínima de informações dos programadores, preferindo o aprendizado de máquina independente. Esses programas modificam comandos e variáveis, criando uma cadeia de código cada vez melhor para realizar a tarefa em questão. Assim, o programa Alpha Go aprendeu a jogar o antigo jogo de tabuleiro chinês "Go", muitas vezes mais difícil do que o xadrez, enquanto o programa utilizava estratégias totalmente novas, o que surpreendeu muito os especialistas. Muito mais chocante é o fato de que a IA aprendeu a criar obras únicas de ciência e arte.
Por exemplo, o aparecimento em 2016 do programa The Next Rembrandt destruiu a ideia de pessoas que a IA não pode criar. Este programa analisa as pinturas de Rembrandt e, com base nos dados obtidos, cria pinturas próprias que não se distinguem do pincel do grande mestre. Informações bastante interessantes sobre o trabalho do programa são fornecidas no site da Microsoft: “Os resultados de 18 meses de trabalho conjunto de especialistas da Microsoft, Delft Technical University, a Royal Mauritshuis Gallery e o Rembrandt House-Museum de Amsterdã criaram uma imagem única de seu tipo, um retrato, que com precisão excepcional recria o estilo criativo de Rembrandt ”[10]. Há mais um precedente associado à criação de IA.David Cope é um compositor e professor americano da Universidade da Califórnia, em Santa Cruz, que desenvolveu o programa Emily Howell, que é capaz de criar músicas que imitam as obras-primas de Bach, Beethoven, Chopin e outros compositores. Deve-se notar que uma série de experimentos com músicos profissionais sugerem que a música criada pela IA não pode ser distinguida das obras dos grandes clássicos. A IA não fica atrás dos humanos no campo da ciência, por exemplo, o programa Watson coleta dados do paciente e, com base neles, cria um cronograma de tratamento personalizado. Nesse contexto, certamente surge a pergunta: quem detém o direito de autoria dessas obras de ciência e arte?que uma série de experimentos com músicos profissionais sugere que a música criada pela IA não pode ser distinguida das obras dos grandes clássicos. A IA não fica atrás dos humanos no campo da ciência, por exemplo, o programa Watson coleta dados do paciente e, com base neles, cria um cronograma de tratamento personalizado. Nesse contexto, certamente surge a pergunta: quem detém o direito de autoria dessas obras de ciência e arte?que uma série de experimentos com músicos profissionais sugere que a música criada pela IA não pode ser distinguida das obras dos grandes clássicos. A IA não fica atrás dos humanos no campo da ciência, por exemplo, o Watson coleta dados do paciente e cria um cronograma de tratamento personalizado com base neles. Nesse contexto, certamente surge a pergunta: quem detém o direito de autoria dessas obras de ciência e arte?quem possui o direito de autoria para as obras específicas de ciência e arte?quem possui o direito de autoria das obras específicas de ciência e arte?
A resposta a esta pergunta do ponto de vista da legislação de vários estados é a mesma. De acordo com a Lei de Direitos Autorais do Reino Unido, um autor é definido como uma pessoa que usa uma ferramenta para atingir um objetivo. A legislação americana baseia-se no fato de que uma pessoa pode ser autor de uma obra científica ou artística. Assim, no caso bem conhecido da Feist Publications, Inc. v. Rural Telephone Service Co., Inc. - 499 US 340, 111 S. Ct. 1282 (1991) [9]. A Suprema Corte dos Estados Unidos aponta que uma obra em que não haja uma contribuição criativa mínima da consciência do autor não pode estar sujeita a direitos autorais. A questão da presença de consciência na IA será considerada com mais detalhes posteriormente, mas deve-se notar imediatamente que a IA não possui consciência, portanto, verifica-se que apenas uma pessoa pode ser o autor. Quanto à Federação Russa,em seguida, analisando o parágrafo 1 do artigo 1228 do Código Civil da Federação Russa (doravante - o Código Civil da Federação Russa), podemos concluir que o autor de uma obra de ciência ou arte também pode ser apenas um indivíduo. Com base na interpretação literal do Artigo 1228 do Código Civil da Federação Russa, chegamos à conclusão de que a pessoa que desenvolveu o programa que criou esta obra não pode ser reconhecida como autor de uma obra de ciência e arte, uma vez que "cidadãos que não fizeram uma contribuição criativa pessoal não são reconhecidos como autores do resultado da atividade intelectual. para criar tal resultado ”[2]. Nesta ocasião, apresentamos uma declaração da A.A. Semyonova:Com base na interpretação literal do Artigo 1228 do Código Civil da Federação Russa, chegamos à conclusão de que a pessoa que desenvolveu o programa que criou esta obra não pode ser reconhecida como autor de uma obra de ciência e arte, uma vez que "cidadãos que não deram uma contribuição criativa pessoal não são reconhecidos como os autores do resultado da atividade intelectual. para criar tal resultado ”[2]. Nesta ocasião, citamos A.A. Semyonova:Com base na interpretação literal do Artigo 1228 do Código Civil da Federação Russa, chegamos à conclusão de que a pessoa que desenvolveu o programa que criou esta obra não pode ser reconhecida como autor de uma obra de ciência e arte, uma vez que "cidadãos que não fizeram uma contribuição criativa pessoal não são reconhecidos como autores do resultado da atividade intelectual. para criar tal resultado ”[2]. Nesta ocasião, apresentamos uma declaração da A.A. Semyonova:
« « » , » [5, . 423].Esta posição também é acompanhada pelo artigo 136 do Código Civil da Federação Russa, que afirma que a propriedade das frutas, produtos e renda pertence ao dono da coisa. Mas aqui, é claro, vale notar que de acordo com o parágrafo 3º do art. 1227 do Código Civil da Federação Russa, as disposições sobre propriedade e outros direitos de propriedade não se aplicam aos direitos intelectuais. Assim, a questão da autoria está, por assim dizer, em um estado "suspenso". No entanto, a resposta a esta questão poderá possivelmente ser encontrada no direito internacional, nomeadamente no artigo 12.º da Convenção das Nações Unidas "Sobre a utilização de comunicações eletrónicas em acordos internacionais" (2005) [1]. A essência dessa regra é que as transações realizadas por um computador podem ser consideradas ações de indivíduos ou entidades legais em cujo nome o computador é usado.Devido à falta de prática judicial, essa regra pode estar indiretamente vinculada às ações da AI.
Com base no exposto, à questão de saber se IA pode ser reconhecida pelo autor, a resposta deveria ser - não, no momento não pode. Infelizmente, a legislação russa não tem regras especiais que regem as atividades da IA, então a questão de quem é considerado o autor de uma obra criada pela IA permanece em aberto.
No momento, há uma lacuna óbvia na legislação russa que torna possível criar uma obra sem autor, o que significa que uma obra criada por AI será considerada de domínio público. O autor é pessoa física, ou seja, sujeito de direito civil, portanto, nesse caso, há uma dependência direta do reconhecimento da IA como sujeito de relações jurídicas?
2. Pessoas físicas, jurídicas e eletrônicas
A questão de qual status legal deve ser estendido à IA é bastante relevante, e há uma enorme variedade de pontos de vista sobre ela na ciência.
Deve-se notar de imediato que no momento existe um estado cujo campo é um andróide com IA. Assim, foi criado um precedente, graças ao qual podemos dizer que a personalidade jurídica se estende à IA, bem como à pessoa física. Este estado é a Arábia Saudita, arquivado - Sofia (robô humanóide).
Em nossa opinião, a decisão da Arábia Saudita é precipitada. Não é racional estender o status legal de um indivíduo a um objeto que claramente não possui propriedades psicoemocionais inerentes a uma pessoa. Portanto, inteligência e consciência não são conceitos semelhantes.
A consciência é inerente a todas as pessoas. É compreendida como um conjunto de reações eletroquímicas nas células do cérebro, expressas na experiência do corpo dos eventos do mundo externo e na reação subsequente a esses eventos. Em suma, a consciência permite que as pessoas experimentem sentimentos subjetivos de dor, amor, ódio, felicidade. Inteligência é a capacidade de usar o conhecimento para influenciar o meio ambiente. A este respeito, deve-se notar a falta de consciência na IA, bem como a falta da capacidade de sentir e desejar algo.
Portanto, não é aconselhável igualar o status legal de humano e IA. Com efeito, neste caso, verifica-se que estamos a criar uma ficção: pessoas e programas irão realizar aproximadamente as mesmas ações, pretendendo atingir um determinado resultado, terão a mesma responsabilidade pelas suas ações. Acontece que a IA, em igualdade de condições com as pessoas, receberá direitos fundamentais: o direito à vida, o direito à integridade pessoal, etc. Mas não deveríamos nos ater à presunção de inconsciência da IA? Tendo em vista que a IA não possui experiências subjetivas da personalidade, ela se destacará fortemente contra o background de uma pessoa, já que o ultrapassará claramente em muitos parâmetros. E é improvável que a IA seja capaz de compreender de forma independente a frase "cogito ergo sum" em um futuro próximo.
Parece que a IA deveria ter um status legal especial. Então, V.V. Arkhipov, V.B. Naumov acredita que a analogia com pessoas jurídicas é aplicável à AI [6]. Com efeito, neste caso, a IA terá todas as características de uma entidade jurídica, com exceção da unidade organizacional. A.A. Nesse sentido, Ivanov observa que pode surgir um duplo estatuto de IA, uma vez que pode ser tanto um objeto quanto um sujeito de direito civil [8]. Do ponto de vista desta posição, surge também a questão sobre o direito de propriedade das coisas: com que direito a IA possuirá as coisas? Este será um direito de propriedade limitado? Não é possível responder a essas perguntas no momento.
L.I. Safargaleev expressa a opinião de que a regra do direito romano é aplicável a AI - servi res sunt (escravos - coisas), em sua opinião, AI não pode ser um sujeito de direito independente, mas pode adquirir direitos e obrigações para seu proprietário [5, C 407].
Todas as posições acima têm o direito de existir, mas, em nossa opinião, não são isentas de desvantagens, pois inevitavelmente surge a questão de qual será o estatuto jurídico da IA após a morte do seu titular? Seguindo a realidade da legislação civil russa, verifica-se que para adquirir a propriedade da IA teremos que esperar 5 anos, ou seja, durante este período haverá uma “IA ilegal” que tem uma mente, realiza ações, mas não adquire nenhuma para quem os direitos e obrigações. O que fazer? É claro que, neste caso, podemos tratar a IA como os gatos, cães e outros animais do Egito Antigo, ou seja, descartá-los junto com seus donos. Mas quão racional é?
É verdade, em nossa opinião, J. Dewey certa vez observou:
« , , » [12, P.657].A resolução do Parlamento Europeu de 16 de fevereiro de 2017 (doravante - a Resolução) é interessante por considerar a questão do estatuto jurídico da IA. A Resolução fornece orientações à Comissão Europeia sobre as regras de direito civil sobre robótica (2015/2013 (INL)) [3]. No texto deste documento, o estatuto jurídico da IA é específico; a IA passa a ser uma espécie de "pessoa electrónica". A Resolução enfatiza que a IA visa complementar as capacidades humanas, não substituí-las. Indica-se que a IA não pode, por suas ações ou omissões, causar dano a uma pessoa, além de permitir a possibilidade de causar dano, a IA deve obedecer a todas as ordens de uma pessoa, ou seja, três leis da robótica formuladas pelo escritor de ficção científica Isaac Asimov no conto "Dança da Rodada" em 1942 ano. A abordagem formulada na Resolução éem nossa opinião, é o mais adequado, e aqui surge imediatamente a questão da responsabilidade da IA.
3. Quem será o responsável?
Imagine que você está dirigindo um veículo de inteligência artificial. O veículo está em sua posse e, inesperadamente, você entra em uma multidão de transeuntes. Vários transeuntes sofreram ferimentos leves, você experimentou forte estresse emocional, o para-choque do carro foi danificado. Quem neste caso vai ressarcir os danos causados à saúde, danos morais, danos ao carro?
De acordo com a lei russa, todas as perdas serão reembolsadas pelo proprietário da fonte de maior perigo. Mas o AI estava dirigindo o carro. Isso não seria considerado um caso de força maior? Será que o proprietário do carro percebeu o perigo para os outros a tempo e assumiu o controle? Na ausência de prática judicial, é difícil responder a essa pergunta, mas vários estados já introduziram normas que regulam a responsabilidade em caso de tais incidentes. Vale a pena nos determos mais detalhadamente na experiência do FRG. Assim, na Alemanha em 2017, foi adotada a “Oitava Lei de Alterações à Lei do Tráfego Rodoviário de 16 de junho de 2017” [4], o que, na verdade, deu origem à possibilidade de utilização de veículos não tripulados. A lei estabelece que o motorista pode se distrair do que está acontecendo na estrada, mas é obrigado a assumir o controle,se a IA se oferecer para fazê-lo em grande parte ou totalmente. Além disso, o motorista deve assumir o controle se perceber ou deve perceber que o controle adicional do carro AI é impossível, por exemplo, quando o motorista vê que o carro controlado por AI está se dirigindo para uma multidão de pedestres, etc. Neste caso, se houve dano a pessoa ou propriedade por culpa do condutor, este será responsável, se o dano foi causado por erro técnico, a responsabilidade será da montadora. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se não puder assumir o controle do carro como resultado de um erro técnico.Além disso, o motorista deve assumir o controle se perceber ou deve perceber que o controle adicional do carro AI é impossível, por exemplo, quando o motorista vê que o carro controlado por AI está se dirigindo para uma multidão de pedestres, etc. Neste caso, se houve dano a pessoa ou propriedade por culpa do condutor, este será responsável, se o dano foi causado por erro técnico, a responsabilidade será da montadora. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se ele não puder assumir o controle do carro como resultado de um erro técnico.Além disso, o motorista deve assumir o controle se perceber ou deve perceber que o controle adicional do carro AI é impossível, por exemplo, quando o motorista vê que o carro controlado por AI está se dirigindo para uma multidão de pedestres, etc. Neste caso, se houve dano a pessoa ou propriedade por culpa do condutor, este será responsável, se o dano foi causado por erro técnico, a responsabilidade será da montadora. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se não puder assumir o controle do carro como resultado de um erro técnico.quando o motorista vê que o veículo AI está se dirigindo para uma multidão de pedestres, etc. Neste caso, se houve dano a uma pessoa ou propriedade por culpa do motorista, este será o responsável, se o dano foi causado por erro técnico, a responsabilidade será da montadora. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se não puder assumir o controle do carro como resultado de um erro técnico.quando o motorista vê que o veículo AI está indo em direção a uma multidão de pedestres, etc. Neste caso, se houve dano a pessoa ou propriedade por culpa do condutor, este será responsável, se o dano foi causado por erro técnico, a responsabilidade será da montadora. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se ele não puder assumir o controle do carro como resultado de um erro técnico.a montadora será a responsável. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se ele não puder assumir o controle do carro como resultado de um erro técnico.a montadora será a responsável. Na Alemanha, em nossa opinião, a abordagem da responsabilidade é realmente de alta qualidade, uma vez que um motorista não pode e não deve ser responsabilizado se ele não puder assumir o controle do carro como resultado de um erro técnico.
A questão da responsabilidade também é levantada na Resolução do Parlamento Europeu de 16 de fevereiro de 2017 [3]. O documento afirma que a IA não pode ser responsabilizada por si mesma, uma vez que suas ações ou omissões dependem do operador (proprietário), ou seja, a IA é uma espécie de ferramenta para atingir um objetivo específico. Diante do exposto, fica estabelecida a responsabilidade não só do proprietário da IA, mas também do fabricante, caso algum dano tenha sido causado por erro técnico. No entanto, a Resolução também afirma que quanto maior a autonomia da IA, menos ela pode ser considerada uma ferramenta convencional. Isso levanta a questão: pode a IA ser independentemente responsável por suas ações ou omissões? Não, de momento não, mas é importante notar que, à medida que a tecnologia evolui, os advogados certamente irão voltar a esta questão.Até agora, só podemos oferecer opções para responsabilidade de IA. Uma ideia totalmente funcional, a este respeito, foi proposta por G.A. Gadzhiev e E.A. Voinikanis [7]. Sua essência reside no fato de que a IA será responsável pela conta dos fundos da conta diretamente com a IA. É possível concretizar essa ideia se, durante o registro de qualquer IA, seu titular contribuir com determinada quantia, que posteriormente será acumulada na caixa de seguro e, em caso de sinistro segurado, será direcionada à sua satisfação. No final, se a IA for reconhecida como um sujeito independente de lei, ela será capaz de encontrar um emprego, ter sua própria conta bancária e contribuir de forma independente com dinheiro para seu fundo de seguro.que a AI será responsável pela conta dos fundos mantidos na conta diretamente com a AI. É possível implementar essa ideia se, no ato do registro de qualquer IA, seu titular contribuir com determinada quantia, que posteriormente será acumulada na caixa do seguro e, em caso de sinistro segurado, será encaminhada para sua satisfação. No final, se a IA for reconhecida como um sujeito independente de lei, ela será capaz de encontrar um emprego, ter sua própria conta bancária e doar dinheiro de forma independente para seu fundo de seguro.que a AI será responsável pela conta dos fundos mantidos na conta diretamente com a AI. É possível implementar essa ideia se, no ato do registro de qualquer IA, seu titular contribuir com determinada quantia, que posteriormente será acumulada na caixa do seguro e, em caso de sinistro segurado, será encaminhada para sua satisfação. No final, se a IA for reconhecida como um sujeito independente de lei, ela será capaz de encontrar um emprego, ter sua própria conta bancária e doar dinheiro de forma independente para seu fundo de seguro.que no futuro será acumulado na caixa de seguro e na eventualidade de um sinistro segurado será dirigido à sua satisfação. No final, se a IA for reconhecida como um sujeito independente de lei, ela será capaz de encontrar um emprego, ter sua própria conta bancária e doar dinheiro de forma independente para seu fundo de seguro.que no futuro será acumulado na caixa de seguro e na eventualidade de um sinistro segurado será dirigido à sua satisfação. No final, se a IA for reconhecida como um sujeito independente de lei, ela será capaz de encontrar um emprego, ter sua própria conta bancária e doar dinheiro de forma independente para seu fundo de seguro.
Conclusão
No momento, AI não pode ser reconhecida como autor de uma obra de ciência ou arte, uma vez que tal possibilidade só aparecerá quando a AI for reconhecida como sujeito de relações jurídicas.
As leis de vários estados não reconhecem a IA como um assunto de relações jurídicas. No entanto, a Arábia Saudita concedeu a cidadania ao robô Sophia, o que indica o reconhecimento do status da IA como indivíduo. Essa abordagem parece prematura, uma vez que humanos e IA não coincidem em termos de suas qualidades e propriedades psicoemocionais. Ao mesmo tempo, é bem possível falar do reconhecimento do status especial de "pessoa eletrônica" para a IA. Isso permitiria não confundir conceitos da lei e de forma alguma violaria os direitos das pessoas. A questão da responsabilidade da IA também não foi resolvida. Em caso de dano a uma pessoa ou propriedade, a responsabilidade de acordo com a realidade da lei será assumida pelo proprietário da fonte que causou o dano, ou pelo seu fabricante. Parece que é preciso obrigar a indenizar o dano causado,AI, se tiver todas as capacidades necessárias para isso e principalmente a disponibilidade de fundos.
A questão de acumular fundos pode ser resolvida depositando fundos durante o registro da AI por seu proprietário no fundo de seguro, ou se a própria AI for capaz de ganhar dinheiro, influenciá-la usando métodos já conhecidos por nós, por exemplo, debitando fundos de uma conta bancária etc.
Este tópico tem um grande potencial de pesquisa. A IA certamente fará parte do futuro da humanidade, portanto, é necessário abordar seriamente as questões relacionadas ao seu estatuto jurídico e à regulação das relações com sua participação.
Este artigo foi publicado no início da coleção. O link para ele será semelhante a este: Vorobyova I.V., Salakhutdinov V.D. Problemas de regulação legal da inteligência artificial // Leituras Malyshevskie - 2020. Ciência e educação: o futuro e os objetivos do desenvolvimento sustentável: materiais da XVI conferência científica internacional, em 4 partes / ed. A.V. Semenov. - M: ed. CHOUVO "MU im. S.Yu. Witte ", 2020. Parte 4. - P. 62-72
Literatura
1. A Convenção das Nações Unidas "Sobre o Uso de Mensagens Eletrônicas em Acordos Internacionais" [recurso eletrônico] // www.un.org/ru/documents/decl_conv/conventions/elect_com.shtml (data de acesso: 30.12.2019).
2. Parte quatro do Código Civil da Federação Russa. // SZ RF. - 2006. - Nº 52. - Art. 5496.
3. Resolução do Parlamento Europeu de 16 de fevereiro de 2017. [Recurso eletrônico] // robopravo.ru/riezoliutsiia_ies (data de acesso: 30/12/2019 ).
4. A oitava lei sobre alterações à Lei do Tráfego Rodoviário de 16 de junho de 2017 [Recurso eletrônico] // robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013_2 (data de acesso: 30.12.2019).
5. Comércio eletrônico e áreas relacionadas (regulamentação legal): coleção de artigos / .. Ostanina, L.V. Kuznetsova, E.S. Khokhlov [e outros]; mãos. ed. contagem e otv. ed. Doutor em direito M.A. Rozhkova. - Moscou: Estatuto, 2019.-- 448 p.
6. Arkhipov BB, Naumov VB Inteligência artificial e dispositivos autônomos no contexto do direito: sobre o desenvolvimento da primeira lei de robótica na Rússia // Procedimentos do SPII RAS. - 2017.- Iss. 6 (55). - S. 46-62.
7. Gadzhiev G.A., Voinikanis E.A. Um robô pode ser sujeito de lei (busca de normas legais para regular a economia digital)? // Direito. Jornal da Escola Superior de Economia. - 2018. - Não. 4. -C. 24-48.
8. Ivanov A.A. Será que os Andróides sonham com ovelhas elétricas? [Recurso eletrônico] // zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_elektroovcah(data de acesso: 29.12.2019).
9. Fraco I.I. The Feist v. Telefone rural: Princípios básicos de direitos autorais da Suprema Corte dos EUA. [Recurso eletrônico] // zakon.ru/blog/2019/04/11/delo_feist_v_rural_telephone_osnovy_avtorskogo_prava_ot_verhovnogo_suda_ssha#comment_490346 (data de acesso: 29.12.2019).
10. Próximo Rembrandt [recurso eletrônico] // news.microsoft.com/ru-ru/sleduyushhij-rembrandt (data de acesso: 28.12.2019).
11. Tikhomirov Yu.A., Arkhipova N.I., Kosyakova N.I. Direito Humanitário Russo - um livro didático para universidades / Universidade Estatal Russa de Humanidades; editado por Tikhomirov Yu.A. (editor executivo), N. I. Arkhipova, N. I. Kosyakova ... Moscou, 1998.
12. Dewey, J. The Historic Background of Corporate Legal Personality // Yale Law Journal. - 1926. No. 35. - pp. 655 - 673.