Open WebUI

O Open WebUI é uma aplicação livre que se instala no servidor onde correm os seus modelos de linguagem. Oferece uma interface de conversação comparável à dos grandes assistentes online: histórico das conversas, escolha do modelo, envio de ficheiros, formatação das respostas. Cada colaborador acede a partir do seu navegador, no computador, tablet ou telemóvel, sem instalar nada.

O Open WebUI não executa os modelos por si só: liga-se a um motor como o Ollama ou a qualquer API compatível, por exemplo a do vLLM. Acrescenta depois funções úteis numa empresa: contas de utilizador com funções e permissões, bases de conhecimento para consultar documentos através do RAG, pesquisa web opcional, assistentes personalizados com as suas próprias instruções e ferramentas complementares.

O software em si é leve: é a máquina que aloja os modelos que determina a velocidade e a qualidade das respostas. Para uma utilização partilhada, veja sobretudo a VRAM da GPU e o número de utilizadores em simultâneo previsto. Instalado na sua rede local, o Open WebUI mantém todas as conversas e todos os documentos dentro de portas. O acesso remoto continua a ser possível, desde que seja devidamente protegido.

As nossas estações de IA são entregues com o Open WebUI pronto a usar e ligado ao Ollama, para que a sua equipa possa conversar com a IA desde o primeiro dia.