Como escolhemos uma biblioteca de aprendizado de máquina para linguagem natural

Em 2019, surgiu no OTR um novo centro de trabalho com inteligência artificial (CII). Inicialmente, foi criado como uma espécie de experimento de trabalho com novas tecnologias. No entanto, logo ele recebeu a primeira missão de combate para automatizar o suporte técnico para os usuários do GIIS "orçamento eletrônico" Anatoly Bezryadin, Diretor da Diretoria de Tecnologias e Competências, e funcionários do CII que participaram do ambicioso projeto, falaram sobre as etapas de implantação da IA.





As chamadas para o suporte técnico são solicitações técnicas complexas com muitas variáveis ​​- seção, subsistema, documentação regulamentar, fatura e assim por diante. Em alguns casos, o texto da proposta pode ter até 20 linhas de texto. Às vezes é difícil até mesmo para uma pessoa entender o contexto de tal aplicação, e para IA pode se tornar uma tarefa insolúvel. 





A lista de dificuldades foi complementada por prazos apertados para a conclusão da tarefa, bem como restrições às soluções de software utilizadas. Como trabalhamos com clientes governamentais, podemos usar nossos próprios desenvolvimentos ou soluções de código aberto. 





Escolha do tipo de rede neural

« » . , . .





. . . , .





. . . , . , . , .





. , . . . , . .





. . , . .





. .





, . . , , :





  • ;





  • ;





  • ;





  • ;





  • GPT;





  • BERT.





, . .





GPT BERT. , . BERT , , Google. .





:





  • open-source-;





  • ;





  • ;





  • ;





  • ;





  • ;





  • .





:





  • MATLAB + Deep Learning Toolbox;





  • Theano:





  • Torch;





  • PyTorch:





  • TensorFlow/Keras.





MATLAB — The MathWorks. . Deep Learning Toolbox. , . 





. , . , . 





Theano — Python. . , .





, Theano . . 





Torch — . Lua. , . 





Theano, Torch . . . 





PyTorch — . , Torch. Python. 





PyTorch , , . . 





TensorFlow — , Google. Keras, . . 





TensorFlow Keras . , , . Google.





Google TensorFlow Keras . —  , 10 . 





75% . . . . 85%.





« ». . .





, . , .








All Articles