Há um problema de toxicidade na comunidade de aprendizado de máquina

A toxicidade está em toda parte.



Primeiro , o processo de revisão por pares foi interrompido. Um quarto dos artigos da conferência NeurIPS são enviados para o arXiv. O DeepMind tem pesquisadores que perseguem publicamente revisores que criticam sua submissão à ICLR. Além disso, artigos de instituições renomadas com o arXiv são aceitos nas principais conferências, mesmo que os revisores decidam rejeitar o trabalho. Por outro lado, alguns artigos com as críticas mais positivas são rejeitados (não quero citar nenhum, basta dar uma olhada na página de revisão aberta do ICRL deste ano).



Segundo , há uma crise de reprodutibilidade . Aparentemente, o ajuste de hiperparâmetros em um conjunto de testes tornou-se uma prática padrão atualmente. Os artigos que não superam o melhor método atual têm zero chances de serem aceitos em uma boa conferência. Como resultado, os hiperparâmetros são ajustados para obter ganhos de desempenho onde nenhum está disponível.



Terceiro , há o problema da adoração. Todo artigo relacionado a Stanford ou DeepMind é aclamado como um avanço. Por exemplo, o BERT tem sete vezes mais citações que o ULMfit. Pertencer ao Google fornece ao artigo muita credibilidade e visibilidade. Em todas as conferências da ICML, uma multidão de pessoas fica na frente de todos os pôsteres do DeepMind, independentemente do conteúdo do trabalho. É a mesma história com as reuniões de Zoom na conferência virtual ICLR 2020. Além disso, o NeurIPS 2020 recebeu o dobro de aplicativos que o ICML, embora ambas as conferências sejam do mais alto nível. Por quê? Por que a palavra "neural" é tão elogiada? Em seguida, Bengio, Hinton e LeCune [vencedores do Prêmio Turing de 2018 para pesquisa em IA - aprox. De fato, somos os pioneiros do aprendizado profundo, mas chamá-los de "padrinhos da IA" é uma loucura. Isso já está se tornando um culto.



Em quarto lugarYang LeCun tem sido bastante moderado sobre os temas de preconceito e justiça. No entanto, em resposta, recebeu toxicidade completamente inadequada e reação negativa. Livrar-se de LeCoon e calar a pessoa não é uma solução.



Quinto , aprendizado de máquina e ciência da computação em geral têm um enorme problema de desigualdade(diversidade). Em nosso corpo docente em CS, apenas 30% dos estudantes e 15% dos professores são mulheres. Tirar licença parental durante estudos de graduação ou doutorado geralmente significa o fim de uma carreira acadêmica. No entanto, essa desigualdade é frequentemente usada como uma desculpa para proteger algumas pessoas de qualquer forma de crítica. Reduzir todos os comentários negativos nas discussões científicas para raça e gênero cria um ambiente tóxico. As pessoas têm medo de participar de discussões para não serem rotuladas de racistas ou sexistas, o que exacerba o problema da desigualdade.



Sexto , moral e ética são estabelecidas arbitrariamente. Em qualquer discussão, a política doméstica dos EUA domina. Neste exato momento, milhares de uigures acabam em campos de concentração baseados em algoritmos de visão computacional inventados por essa comunidade, e ninguém parece se importar. Adicionar uma seção "Maior impacto" ao final de cada artigo não resolverá esse problema. Um monte de porcaria é gerado quando algum pesquisador não é mencionado em um artigo. Enquanto isso, o continente africano, com uma população de 1 bilhão, está praticamente excluído de qualquer discussão significativa sobre BC (além de algumas oficinas de Indaba).



Sétimo , a mentalidade é generalizadadigite "publicar ou morrer". Se você não publicar mais de 5 artigos por ano nas conferências NeurIPS / ICML, será um fracasso. As equipes de pesquisa cresceram tanto que o supervisor nem se lembra dos nomes de todos os estudantes de pós-graduação. Alguns enviam mais de 50 entradas para o NeurIPS por ano. O único objetivo deste artigo foi adicionar outro artigo do NeurIPS ao currículo. A qualidade é secundária; o objetivo principal era passar pela fase de pré-visualização.



Finalmente , as discussões se tornaram desrespeitosas. Jurgen Schmidhuber, ganhador do prêmio Helmholtz da Sociedade Internacional de Redes Neurais, chama a Sociedade Real de Londres Jeffrey Hinton de ladrão, Timnit Gebra, etíope-americano e co-diretor da Equipe de Inteligência Ética Artificial do Google, chama o "padrinho da IA" Jan LeCun, diretor de pesquisa da I Caltech, como suprematista branco na Nvidia, a Anima Anandkumar chama de sexista o CEO da Geometric Intelligence e o autor do livro Gary Markus. Todo mundo é atacado, mas nada melhora.



Albert Einstein se opôs à mecânica quântica . Podemos parar de demonizar aqueles que não compartilham exatamente nossos pontos de vista? Vamos permitir que as pessoas discordem, não cortando a garganta.



No momento em que calamos as pessoas por causa de sua opinião, o progresso científico e social simplesmente morre.