O treinamento de modelos de inteligência artificial mais ou menos avançados geralmente requer recursos significativos. Modelos complexos significam milhões de dólares em infraestrutura. A IBM criou tecnologia para reduzir o custo e o tempo de treinamento. E, claro, economize dinheiro.
A corporação apresentou um protótipo de um novo coprocessador AI 7nm com eficiência energética. O uso do chip pode aumentar a eficiência dos sistemas de treinamento em mais de 7 vezes. Carros autônomos, texto para fala, visão de máquina, desenvolvimento de medicamentos, drones de entrega - as aplicações da IA são infinitas hoje. Para implementar esses projetos de grande escala, essas tecnologias são necessárias.
Na maioria dos núcleos de computação, processadores e SoCs, aprimorados para aprendizado de máquina, os modos de bits baixos são usados com mais frequência: FP16 e INT8. A precisão de 8 bits é simplesmente redundante neste caso. A IBM desenvolveu um protótipo de um novo chip AI para esses sistemas periféricos.
O que é interessante sobre o coprocessador?
Chip de 4 núcleos. O
chip de origem é projetado usando uma tecnologia de processo de 7 nm. Diferentes cenários para usar o chip são possíveis:
- No modo de 4 bits para tarefas comuns. A tecnologia permite que você obtenha resultados comparáveis ao modo de 8 bits.
- No modo de 2 bits para tarefas de inferência. Nesse caso, às vezes a precisão cai alguns pontos percentuais, mas o desempenho é 4 vezes maior em comparação com o modo de 8 bits.
- Modo híbrido para diferentes tipos de tarefas.
Principais características do chip:
- Tecnologia de processo de 7nm baseada em EUV;
- uso do formato híbrido FP8 com HFP8;
- Gerenciamento de energia de IA para aceleradores de hardware;
- adaptação a cargas permanentemente elevadas, o que garante alto desempenho das aplicações.
Fonte
Escopo de aplicação da novidade:
- treinar modelos de grande escala na nuvem;
- aumentar a segurança e a privacidade;
- aumentar o poder de computação em ambientes híbridos sem gastar muita energia.
A IBM acredita que o coprocessador será aplicável em visão de máquina, sistemas de reconhecimento de voz e processamento de linguagem natural para vários aplicativos em nuvem para detectar transações financeiras fraudulentas. Além disso, os desenvolvedores de veículos autônomos, sistemas de vigilância por vídeo e telefones celulares podem se beneficiar com o uso do chip.
