TPU
Chip de aceleração para IA concebido pela Google. É um ASIC dedicado aos cálculos de matrizes das redes neuronais, não vendido sob a forma de placa.
TPU significa «Tensor Processing Unit». É um chip concebido pela Google especificamente para executar redes neuronais. A Google usa-o nos seus próprios centros de dados desde 2015 e apresentou-o publicamente em 2016. Desde então sucederam-se várias gerações, cada uma mais potente e mais económica.
Um TPU é, na verdade, um ASIC, tal como um minerador de Bitcoin: em vez de ser versátil como uma GPU, é feito à medida para uma única família de cálculos, as multiplicações de matrizes que estão no centro da IA, que encadeia com grande eficiência energética. Os TPU são agrupados às centenas ou aos milhares em clusters ligados por uma rede muito rápida, para treinar e executar modelos muito grandes.
Para um particular ou uma empresa, a diferença é muito concreta: os TPU de centro de dados não estão à venda. A Google explora-os sobretudo nas suas próprias instalações e disponibiliza-os à distância; apenas pequenos chips destinados a eletrónica embarcada são vendidos livremente. Se quer uma IA em casa, no seu próprio hardware, a solução passa pelas GPU, que contam ainda com o ecossistema de software CUDA, compatível com praticamente todas as ferramentas e modelos. É o mesmo raciocínio que entre ASIC e GPU na mineração: especialização contra versatilidade.
Propomos estações e servidores com GPU NVIDIA para alojar a sua IA localmente, sem depender de um serviço externo.