Neurodigest: Destaques do aprendizado de máquina, março de 2021

Em março, houve muitas novidades sobre o uso da autoaprendizagem para tarefas de visão computacional. O principal problema que os modelos de autoaprendizagem tentam resolver é realizar tarefas sem depender de conjuntos de dados cuidadosamente selecionados e rotulados. A FAIR e a Microsoft apresentaram vários estudos sobre o tema ao mesmo tempo.





VIDENTE

Acessibilidade: postagem / artigo do blog





Facebook SEER (SElf-supERvised), 1.3 . Instagram 84.2% Imagenet.





SwAV - , RegNet VISSL- PyTorch. 60 self-supervised , . 





Learning from videos

:





Facebook , , . Instagram Reels, , . , 20%. 





Time-Space Transformer

O mapa de calor mostra como a atenção do modelo é distribuída - na linha inferior, as áreas consideradas menos importantes são sombreadas.  Dessa forma, o TimeSformer aprende a prestar atenção em áreas importantes do vídeo para fazer julgamentos de espaço-tempo complexos.
, — , . , TimeSformer , - .

: /





TimeSformer . self-attention NLP. 3D , . - . self-attention , . , , , , .  





Swin Transformer

: /





Microsoft , . , , . , , . , PyTorch





LightningDOT

Resultado para a consulta "biplanos azuis e amarelos voando um ao lado do outro", a imagem no quadro vermelho é uma imagem válida
«- ,  », —

: /





. - .





Microsoft , . . SOTA- Flickr30K COCO.





Involution

: /  





self-attention . Involution — , .





TagMe

:





, . . GPS- , . , . , . 





PF-AFN

Pipeline de treinamento PF-AFN
PF-AFN

: /





, GAN- . . , , . , , .





Latent Composition

: / / /





GAN , . MIT , . GAN , . . 





Infinite Images

:





MIT , «» . , . , , . , Infinite nature, , . 





GANsformer

: /  





StyleGAN , . , . , , .  





FaceBlit

: /





GAN . , . , , - , .





CLIP

Interpretação do neurônio responsável por um conceito abstrato como "Natal"
,   «»

: /





, CLIP Open AI , iPod .

Open AI « » .





, CLIP , , , — , . , Open AI — , , .





, , , «» , , .   , CLIP . . , , . , , , .







P.S.



, - , .





, :





  • código-fonte e colaboração do projeto Infinite Nature da seleção de janeiro ;





  • uma demonstração interativa para Monster Mash da edição de setembro ;





  • GPT-Neo , uma implementação não oficial dos 2,7 bilhões de parâmetros GPT-3 da Eleuther.ai.





A comunidade de código aberto continua a se deliciar e, em março, até apareceu um serviço por meio do qual você pode registrar uma reclamação sobre resultados de pesquisa não reproduzíveis.   



Só isso, obrigado pela atenção e até mês que vem!








All Articles