IA generativa

A IA generativa reúne os sistemas de inteligência artificial que produzem algo que não existia: uma resposta redigida, um resumo, uma imagem, uma voz, uma música, um vídeo ou código informático. Dá-se-lhe uma instrução, chamada prompt, e ela cria um resultado com base no que aprendeu durante o treino com enormes quantidades de dados.

Por trás destas ferramentas encontram-se sobretudo duas famílias de modelos. Os grandes modelos de linguagem, ou LLM, construídos sobre a arquitetura Transformer, preveem o texto token a token. Os modelos de difusão, usados para imagem e vídeo, partem de um ruído aleatório que vão refinando passo a passo. Em ambos os casos, o resultado é provável e não garantido: uma IA generativa pode enganar-se com toda a confiança, daí a importância de verificar as suas respostas ou de lhe fornecer fontes fiáveis.

Estes modelos exigem muito cálculo e, sobretudo, muita memória. Para os executar na sua própria máquina, o critério principal é a VRAM da placa gráfica, porque determina o tamanho do modelo que consegue carregar. Uma GPU de 16 GB já permite usar modelos de texto de tamanho médio ou gerar imagens. Os modelos mais pesados exigem 32 GB ou mais, ou mesmo várias GPU.

Propomos GPU, rigs e estações de IA prontas a usar para utilizar a IA generativa em sua casa, sem enviar os seus dados para um serviço externo.