GPU e IA

FLOPS

Também chamado: TFLOPS, PFLOPS

Número de operações com números de vírgula flutuante que um chip realiza por segundo. É a unidade de poder de cálculo das GPU e dos chips de IA.

FLOPS significa «floating-point operations per second», ou seja, o número de operações com números de vírgula flutuante realizadas por segundo. Usa-se para GPU, processadores e aceleradores de IA. Os múltiplos seguem o sistema métrico: um TFLOPS equivale a um bilião de operações por segundo, e um PFLOPS a mil TFLOPS. Não se deve confundir com o hashrate, que mede a velocidade de um minerador em hashes por segundo.

Os FLOPS anunciados são valores de pico, calculados a partir do número de unidades de cálculo e da frequência. Na utilização real, só se atinge parte desse máximo, porque o chip está muitas vezes à espera dos dados vindos da memória. Isto é particularmente verdade na geração de texto por um modelo de linguagem, limitada sobretudo pela largura de banda de memória e não tanto pelo poder bruto.

Numa ficha de produto, um valor em FLOPS só faz sentido acompanhado da sua precisão: FP64, FP32, FP16, FP8 ou FP4. Quanto mais curto o formato, mais alto o valor, e a menção «com esparsidade» duplica-o ainda. Para comparar duas GPU, use a mesma precisão e depois veja a quantidade de memória e a sua largura de banda. Para o treino, os FLOPS em BF16 ou FP8 são os mais reveladores; para executar um modelo localmente, a memória conta muitas vezes mais.

A nossa página que compara ASIC e GPU ajuda a perceber que máquina escolher, consoante queira minerar ou trabalhar com IA.