Quem é o responsável pelos robôs no mundo humano?

Alguém pode comprar um robô? As empresas de robótica estão monitorando como seus robôs estão sendo usados? Você pode ter uma compra negada ou proibido de usar um robô já comprado?



Especialistas da ANYbotics, Boston Dynamics e Clearpath Robotics respondem a perguntas sobre o uso irresponsável e antiético de seus robôs.





Ilustração: iStockphoto / IEEE Spectrum



A produção comercial de robôs autônomos que podem operar fora de um ambiente estruturado disparou nos últimos cinco anos. Mas esta transição relativamente recente de tecnologias robóticas da categoria de projetos de pesquisa para um produto comercial é acompanhada por certas dificuldades, muitas das quais estão associadas ao fato de que mais e mais robôs estão aparecendo na sociedade.



Os robôs freqüentemente assombram a mente das pessoas, talvez por causa de sua aparente funcionalidade ou uma representação típica da cultura popular. Às vezes, isso leva a resultados positivos, como maneiras inovadoras de usá-los. Mas também há situações em que isso leva ao uso antiético ou irresponsável. Há algo que os vendedores de robôs possam fazer nesses casos? E mesmo que eles possam, deveriam?



A robótica acredita que os robôs são principalmente ferramentas. Nós os projetamos, os programamos e até mesmo os robôs autônomos simplesmente seguem as instruções que codificamos neles. No entanto, é a aparente viabilidade dos robôs que desperta tanto interesse, faz com que pessoas que não tenham nenhuma experiência em interagir com robôs reais possam não entender que o próprio robô não é bom nem mau, é apenas um reflexo de sua designers e usuários. ...



Isso pode colocar as empresas de robótica em um dilema. A pessoa que comprou o robô deles, hipoteticamente, pode usá-lo como quiser. Claro, isso se aplica a qualquer ferramenta, mas a singularidade da situação com os robôs está em sua autonomia. Pode-se dizer que a autonomia implica uma relação entre um robô e seu fabricante, ou, neste caso, a empresa que o desenvolve e vende. Essa associação pode não ser totalmente justificada, mas existe, apesar de, no final das contas, ser o comprador do robô quem tem controle total sobre todas as suas ações.

, Spot , .



, Boston Dynamics

Claro, as empresas de robótica entendem isso, porque muitas delas monitoram cuidadosamente para quem vendem seus produtos e são muito claras sobre os usos desejáveis ​​de seus robôs. Mas até onde essa responsabilidade deve ir quando um robô “sai voando do ninho” da empresa que o criou? E como isso é possível? As empresas de robótica devem ser responsabilizadas pelas ações de seus robôs no mundo humano, ou deve-se reconhecer que, após a venda de um robô, a responsabilidade por ele também passa para o novo proprietário? E o que pode ser feito se houver casos de uso irresponsável ou antiético de robôs que possam afetar adversamente os fabricantes de robótica?



Para entender melhor essa questão, entramos em contato com funcionários de três empresas de robótica, cada uma com experiência na venda de robôs móveis exclusivos para consumidores comerciais. Fizemos a eles cinco perguntas sobre a responsabilidade que as empresas de robótica têm pelos robôs que vendem, e foi isso que eles responderam.



Existem restrições sobre como os humanos podem usar seus robôs? Se sim, quais e se não, por quê?





Peter Fankhauser , CEO da ANYbotics :



Trabalhamos em estreita colaboração com os clientes para garantir que nosso produto forneça a solução certa para seus problemas. Assim, entendemos imediatamente porque o robô está sendo comprado e não cooperamos com clientes que desejam usar nosso ANYmal robô para outros fins. Em particular, não permitimos categoricamente o uso militar ou armado de nossos robôs, e desde a fundação de ANYbotics temos tentado melhorar as condições de trabalho das pessoas, tornando-as mais confortáveis, agradáveis ​​e seguras.





Robert Plater , CEO, Boston Dynamics :



Sim, introduzimos restrições ao uso de nossos robôs, que estão definidas nos termos do contrato de venda. Todos os nossos compradores, sem exceção, devem confirmar que o Spot não será usado para ferir pessoas ou animais, ou para intimidá-los, ser usado como uma arma ou estar equipado para segurar uma arma. Como qualquer outro produto, Spot deve ser usado legalmente.





Ryan Gariepi , CTO, Clearpath Robotics :



Temos restrições e processos rígidos para a devida diligência do cliente, com base principalmente nos regulamentos de controle de exportação do Canadá. Dependem do tipo de equipamento vendido e também de onde será utilizado. Em geral, também não venderemos ou daremos suporte a um robô se soubermos que ele representará um risco de segurança incontrolável ou se tivermos motivos para acreditar que o comprador não está qualificado para usar o produto. E, via de regra, não apoiamos o uso de nossos produtos para o desenvolvimento de sistemas de armas totalmente autônomos.



Por que o comprador de um robô deve ter seu uso limitado?



Peter Fankhauser, ANYbotics:



Vemos o robô não como um objeto comum, mas sim como uma força de trabalho artificial. Para nós, isso significa que a transferência do robô e seu uso estão intimamente relacionados, e o cliente e o fornecedor precisam concordar sobre quais tarefas o robô realizará. Essa abordagem ressoa com nossos clientes, que estão cada vez mais interessados ​​na capacidade de pagar por robôs como um serviço ou por uso.



Robert Plater, Boston Dynamics:



Vendemos o produto e faremos tudo ao nosso alcance para impedir que invasores usem nossa tecnologia para prejudicar, mas não podemos controlar todos os casos de uso. No entanto, acreditamos que o melhor impacto em nossos negócios virá do uso da tecnologia para fins pacíficos - trabalhar com as pessoas como ajudantes confiáveis ​​e protegê-las do perigo. Não queremos que nossa tecnologia seja usada para prejudicar ou promover a violência. Usamos as mesmas restrições que outros fabricantes ou empresas de tecnologia que tomam medidas para reduzir ou eliminar o uso violento ou ilegal de seus produtos.



Ryan Gariepi, Clearpath Robotics:



Supondo que a entidade limitadora seja de propriedade privada e o robô e seu software sejam vendidos em vez de alugados ou gerenciados, não há nenhuma razão legal convincente para limitar o uso. No entanto, o fabricante também não é obrigado a fornecer suporte para este robô ou cliente específico no futuro. No entanto, dado que ainda estamos apenas à beira das mudanças sociais que os robôs trarão, é do interesse do fabricante e do usuário comunicarem honestamente seus objetivos um ao outro. Agora você está investindo não apenas na compra inicial e no relacionamento com o fabricante, mas na promessa de como podem ajudar uns aos outros a ter sucesso no futuro.

Se o robô for usado de forma imprudente do ponto de vista da segurança: intervenha! Se você se deparar com uso antiético, não fique em silêncio!



Peter Funkhauser, ANYbotics

O que você pode fazer de forma realista para garantir que os robôs comprados sejam usados ​​conforme o esperado?



Peter Fankhauser, ANYbotics:



Trabalhamos em estreita colaboração com os clientes para garantir que nossa solução permita que eles atinjam seus objetivos. Portanto, abandonamos as possibilidades técnicas de bloqueio do uso de produtos para outros fins.



Robert Plater, Boston Dynamics:



Verificamos cuidadosamente nossos clientes e nos certificamos de que o uso pretendido corresponde à funcionalidade do robô Spot e não contradiz os termos do contrato de venda. Recusamo-nos a vender para clientes que planejam usar robôs para tarefas que não lhes cabem. E em caso de abuso de nossas tecnologias ou violação das regras de uso, de acordo com os termos do contrato de venda, a garantia e a possibilidade de receber atualizações, manutenção, reparo ou substituição do robô são canceladas. Também podemos apreender robôs que foram alugados e não comprados. Por fim, não revenderemos robôs a clientes que violarem os termos do contrato de venda.



Ryan Gariepi, Clearpath Robotics:



Normalmente trabalhamos com os clientes antes de uma venda para garantir que suas expectativas atendam à realidade, em particular em questões como segurança, requisitos de controle e usabilidade. É melhor não fechar negócio do que vender um robô que acumulará poeira na prateleira ou, pior ainda, causará danos, então preferimos reduzir o risco de tal situação antes de recebermos o pedido ou enviarmos o robô para o comprador.



Como você avalia os casos de uso limítrofes, por exemplo, se alguém deseja usar seu robô em um campo de arte ou pesquisa que poderia ultrapassar os limites do que você pessoalmente considera responsável ou ético?



Peter Fankhauser, ANYbotics:



O principal é dialogar, buscar entender-se e buscar alternativas que atendam a todas as partes interessadas, e quanto mais cedo esse diálogo começar, melhor.



Robert Plater, Boston Dynamics:



Há uma linha clara entre estudar robôs em ciência e arte e usar robôs para fins violentos ou ilegais.



Ryan Gariepi, Clearpath Robotics:



Vendemos milhares de robôs a centenas de clientes até agora e não consigo me lembrar da última vez em que não tivemos que lidar com controles de exportação e fazer uma avaliação geral das metas e expectativas dos clientes. Tenho certeza de que isso mudará à medida que os preços dos robôs continuarem caindo e sua flexibilidade e usabilidade aumentarem.

, , .



, Clearpath Robotics

O que a robótica deve fazer se vir um robô sendo usado de forma antiética ou irresponsável?



Peter Fankhauser, ANYbotics:



Se o robô for usado de maneira imprudente do ponto de vista da segurança, intervenha! Se você se deparar com uso antiético, não fique em silêncio!



Robert Plater, Boston Dynamics:



Queremos que os robôs sejam benéficos para a humanidade, o que significa, entre outras coisas, não prejudicar as pessoas. Achamos que a indústria de robótica só se tornará comercialmente viável a longo prazo se os humanos virem os robôs como ferramentas úteis, sem se preocupar se eles podem causar danos.



Ryan Gariepi, Clearpath Robotics:



Se este for um caso isolado, eles devem discutir a questão com o usuário, fornecedor ou fornecedores, a mídia e agências regulatórias ou governamentais se uma ameaça iminente à segurança surgir. Se esta situação correr o risco de se repetir várias vezes e não for levada a sério, a robótica deve trazê-la para uma discussão mais ampla em locais apropriados: em conferências, em grupos da indústria, em órgãos de normalização, etc.

Conclusão

À medida que mais e mais robôs com diferentes capacidades surgem no mercado, esses problemas podem surgir cada vez com mais frequência. As três empresas com quem falamos certamente não representam todos os pontos de vista. Mas suponho (espero?) Qualquer pessoa envolvida na fabricação de robôs concordaria que robôs deveriam ser usados ​​para melhorar a vida das pessoas. Mas o que “melhor” significa no contexto da arte, pesquisa e até mesmo o uso de robôs nas forças armadas nem sempre é fácil de definir, e inevitavelmente surgirão desacordos sobre o que é ético e responsável e o que não é.