Bei KI auf dem eigenen Gerät läuft das Modell dort, wo die Daten schon sind: auf dem Handy, dem Laptop oder in einem Browser-Tab. Die Eingabe geht nicht an einen Server, der rechnet und die Antwort zurückschickt. Ein Foto, eine Aufnahme oder ein Text verlässt das Gerät also nicht. Der Preis ist die Größe: Modell und Engine müssen klein genug zum Herunterladen und schnell genug auf normaler Hardware sein. Meist sind das kompakte, spezialisierte Modelle statt großer Alleskönner. Mit Laufzeitumgebungen wie WebAssembly geht das auch im Browser, ohne etwas zu installieren. Dieses Thema sammelt Projekte und Werkzeuge, die Modelle lokal ausführen.
Mehr dazu
- Behandelt in
-
- Was die Maschine sieht Eine kleine App meiner alten Website: Du hast ein Foto gewählt, und das Bildmodell Mirage hat darin Objekte, Text und die Szene gefunden, ganz im Browser.
- Schlagwörter