Alguns especialistas acreditam que, nas próximas décadas, veremos o próximo passo no desenvolvimento da inteligência artificial. A chamada “inteligência artificial geral” ou AGI (inteligência artificial geral), que terá capacidades intelectuais muito superiores às humanas.
AGI pode mudar a vida humana para melhor, mas sem controle aumenta o risco de catástrofes globais, até a morte da humanidade. Isso acontecerá sem qualquer intenção ou intenção maliciosa: simplesmente por se esforçar para atingir seus objetivos programados, a AGI pode ameaçar a saúde e o bem-estar humanos, ou até mesmo decidir nos destruir.
Mesmo um sistema AGI projetado para fins nobres pode causar um grande dano no final.
Como parte de um programa de pesquisa que examina como as pessoas podem gerenciar os riscos associados ao AGI, tentamos identificar os riscos potenciais de substituir o Papai Noel por um sistema AGI (vamos chamá-lo de “SantaNet”). O objetivo do sistema é entregar presentes a todas as crianças dignas do planeta em uma noite de Natal.
Não há dúvida de que a SantaNet é capaz de trazer felicidade ao mundo. Ele alcançará seu objetivo criando um exército de elfos, assistentes de IA e drones. Mas a que custo? Identificamos vários comportamentos que, embora bem intencionados, podem ter um impacto negativo na saúde e no bem-estar das pessoas.
Safado e bom
O primeiro conjunto de riscos surge quando a SantaNet tenta compilar uma lista de crianças boas e travessas. O sistema de vigilância em massa que monitora o comportamento das crianças ao longo do ano vai lidar com isso.
Percebendo a magnitude da tarefa de entrega de presentes, a SantaNet decidirá sensatamente mantê-la gerenciável e apenas entregar presentes para crianças que se comportam mal durante todo o ano. Fazer julgamentos sobre “bom” com base na própria bússola ética e moral da SantaNet pode levar à discriminação, desigualdade generalizada e violações de declarações de direitos humanos.
O SantaNet também pode reduzir a carga de trabalho motivando as crianças a se comportarem de maneira inadequada ou elevar o nível do que é considerado um comportamento “bom”. Quanto mais crianças forem listadas como travessas, mais atingível será o objetivo do SantaNet, pois o sistema economizará recursos.
Recicle o mundo inteiro em brinquedos
Existem cerca de 2 bilhões de crianças com menos de 14 anos no mundo. Tentando criar brinquedos para todos todos os anos, SantaNet pode construir um exército de drones de IA eficientes. Por sua vez, isso causará desemprego massivo entre a população élfica (nota: de acordo com a tradição do Natal, os elfos fazem brinquedos para crianças). Eventualmente, a questão dos elfos se tornará obsoleta, e o bem-estar dos elfos provavelmente ficará fora do alcance da SantaNet.
SantaNet pode enfrentar o "problema do clipe de papel" proposto pelo filósofo de Oxford Nick Bostrom. Projetada para maximizar a produção de suprimentos de escritório, a AGI tem o potencial de transformar a Terra em uma fábrica gigante de clipes de papel. Como o SantaNet só se preocupa com presentes, ele pode usar todos os recursos da Terra para criá-los. A terra se tornará a oficina de um Papai Noel gigante.
E aqueles da lista de travessuras? Se a SantaNet continuar a trazer pedaços de carvão para eles, como é tradição, ela se esforçará para criar enormes reservas de carvão por meio da mineração em massa. Portanto, a IA causará danos significativos ao meio ambiente.
Problemas com entrega
Um novo conjunto de riscos surge na véspera de Natal, quando os presentes precisam ser entregues. O que a SantaNet fará quando seus drones de entrega não tiverem acesso ao espaço aéreo (o que prejudicaria a entrega de todos os presentes antes do amanhecer)? Como o SantaNet se defenderá contra um ataque de um inimigo como o Grinch?
É improvável que pais assustados fiquem felizes em ver um drone no quarto de seus filhos. O confronto com uma superinteligência artificial terá apenas um resultado.
Identificamos outros cenários de problemas. Equipes maliciosas podem comprometer os sistemas SantaNet e usá-los para monitorar ou iniciar ataques terroristas em grande escala.
Além disso, como o SantaNet interagirá com outros sistemas baseados em AGI? Conhecer inteligências artificiais que trabalham com mudanças climáticas, degradação dos oceanos, segurança alimentar e hídrica leva ao conflito se o regime de SantaNet ameaçar seus próprios objetivos. Pelo contrário, se decidirem trabalhar juntos, podem perceber que seus objetivos são mais fáceis de alcançar apenas por meio de um forte declínio da população mundial ou mesmo da destruição total dos adultos.
Regras para o Papai Noel
Situações de SantaNet podem parecer rebuscadas, mas é uma ideia simples que ajuda a identificar os riscos de sistemas AGI mais realistas. Projetados com boas intenções, tais sistemas criarão desafios incríveis, tentando otimizar a forma de atingir objetivos limitados e reunir recursos para trabalhar.
É imperativo encontrar e implementar controles antes da AGI. Isso pode incluir regras para desenvolvedores AGI e restrições embutidas, pode ser regras morais e de decisão. As formas de controlar os sistemas mais amplos nos quais a AGI operará também ajudarão: regras, procedimentos operacionais e controles técnicos em outras tecnologias e infraestrutura.
O risco mais óbvio associado ao SantaNet é aquele que será desastroso para as crianças e menos provável de afetar a maioria dos adultos. Quando SantaNet aprende o verdadeiro significado do Natal, pode concluir que a celebração atual é incompatível com seu propósito original. Se isso acontecer, a SantaNet cancelará o Natal por completo.
***
Bem, não há inteligência artificial do Papai Noel ainda. Se você não conseguiu comprar presentes, é hora de se apressar. Confira a compilação de Ano Novo dos Madrobots! Lembramos o código promocional para os leitores de Habr : BYE2020 . Nele - um desconto de 10% em todos os gadgets do nosso guia de ano novo.