KI auf dem eigenen Gerät
KI-Modelle, die auf dem eigenen Gerät laufen, in einer App oder im Browser, sodass die Eingabe dort bleibt und kein Server rechnet.
Geprüft von adrian
am
Bei KI auf dem eigenen Gerät läuft das Modell dort, wo die Daten schon sind: auf dem Handy, dem Laptop oder in einem Browser-Tab. Die Eingabe geht nicht an einen Server, der rechnet und die Antwort zurückschickt. Ein Foto, eine Aufnahme oder ein Text verlässt das Gerät also nicht. Der Preis ist die Größe: Modell und Engine müssen klein genug zum Herunterladen und schnell genug auf normaler Hardware sein. Meist sind das kompakte, spezialisierte Modelle statt großer Alleskönner. Mit Laufzeitumgebungen wie WebAssembly geht das auch im Browser, ohne etwas zu installieren. Dieses Thema sammelt Projekte und Werkzeuge, die Modelle lokal ausführen.
Beruht auf
- Was die Maschine sieht [mirage]
Mehr dazu
Behandelt in
- Was die Maschine sieht Eine kleine App meiner alten Website: Du hast ein Foto gewählt, und das Bildmodell Mirage hat darin Objekte, Text und die Szene gefunden, ganz im Browser.
Gehört zu
- KI / Sprachmodelle Wofür ich Sprachmodelle einsetze: Agenten, lokale Modelle, RAG und kleine Programme, in denen ein Modell eine Aufgabe übernimmt.