Generative KI

Generative KI umfasst die Systeme künstlicher Intelligenz, die etwas hervorbringen, das es vorher nicht gab: eine formulierte Antwort, eine Zusammenfassung, ein Bild, eine Stimme, ein Musikstück, ein Video oder Programmcode. Man gibt ihr eine Anweisung, den sogenannten Prompt, und sie erzeugt ein Ergebnis auf Grundlage dessen, was sie beim Training mit sehr großen Datenmengen gelernt hat.

Hinter diesen Werkzeugen stehen vor allem zwei Modellfamilien. Große Sprachmodelle, kurz LLMs, die auf der Transformer-Architektur beruhen, sagen Text Token für Token voraus. Diffusionsmodelle, die für Bild und Video eingesetzt werden, starten mit zufälligem Rauschen und verfeinern es Schritt für Schritt. In beiden Fällen ist das Ergebnis wahrscheinlich, nicht garantiert: Eine generative KI kann sich mit Bestimmtheit irren, deshalb lohnt es sich, ihre Antworten zu prüfen oder ihr verlässliche Quellen an die Hand zu geben.

Diese Modelle brauchen viel Rechenleistung und vor allem viel Speicher. Um sie auf Ihrer eigenen Maschine zu betreiben, ist der VRAM der Grafikkarte das wichtigste Kriterium, denn er bestimmt, wie groß das Modell sein darf, das Sie laden können. Eine GPU mit 16 GB reicht bereits für mittelgroße Textmodelle oder zur Bildgenerierung. Schwerere Modelle verlangen 32 GB oder mehr, unter Umständen mehrere GPUs.

Wir bieten GPUs, Rigs und einsatzbereite KI-Workstations an, damit Sie generative KI bei sich nutzen können, ohne Ihre Daten an einen externen Dienst zu senden.