KI auf dem eigenen Gerät

KI-Modelle, die auf dem eigenen Gerät laufen, in einer App oder im Browser, sodass die Eingabe dort bleibt und kein Server rechnet.

Bei KI auf dem eigenen Gerät läuft das Modell dort, wo die Daten schon sind: auf dem Handy, dem Laptop oder in einem Browser-Tab. Die Eingabe geht nicht an einen Server, der rechnet und die Antwort zurückschickt. Ein Foto, eine Aufnahme oder ein Text verlässt das Gerät also nicht. Der Preis ist die Größe: Modell und Engine müssen klein genug zum Herunterladen und schnell genug auf normaler Hardware sein. Meist sind das kompakte, spezialisierte Modelle statt großer Alleskönner. Mit Laufzeitumgebungen wie WebAssembly geht das auch im Browser, ohne etwas zu installieren. Dieses Thema sammelt Projekte und Werkzeuge, die Modelle lokal ausführen.

Mehr dazu

Behandelt in
  • Was die Maschine sieht Eine kleine App meiner alten Website: Du hast ein Foto gewählt, und das Bildmodell Mirage hat darin Objekte, Text und die Szene gefunden, ganz im Browser.
Schlagwörter

In der Graph-Ansicht zeigen →