TPU
Chip de aceleración para IA diseñado por Google. Es un ASIC dedicado a los cálculos de matrices de las redes neuronales, que no se vende como tarjeta.
TPU significa «Tensor Processing Unit». Es un chip diseñado por Google específicamente para ejecutar redes neuronales. Google lo utiliza en sus propios centros de datos desde 2015 y lo presentó públicamente en 2016. Desde entonces se han sucedido varias generaciones, cada una más potente y más eficiente.
Una TPU es en realidad un ASIC, como un minero de Bitcoin: en lugar de ser polivalente como una GPU, está hecha a medida para una sola familia de cálculos, las multiplicaciones de matrices que están en el centro de la IA, y las encadena con una gran eficiencia energética. Las TPU se agrupan por cientos o por miles en clústeres conectados por una red muy rápida, para entrenar y ejecutar modelos muy grandes.
Para un particular o una empresa, la diferencia es muy concreta: las TPU de centro de datos no se venden en tiendas. Google las explota sobre todo en sus propias instalaciones y las ofrece a distancia; solo se venden libremente pequeños chips destinados a la electrónica embebida. Si quieres una IA en casa, en tu propio hardware, la solución pasa por las GPU, que además se benefician del ecosistema de software CUDA, compatible con prácticamente todas las herramientas y todos los modelos. Es el mismo razonamiento que entre ASIC y GPU en minería: especialización frente a polivalencia.
Ofrecemos estaciones y servidores con GPU NVIDIA para alojar tu IA en local, sin depender de un servicio externo.