cactus
Quelloffene Engine von Cactus Compute, die kleine KI-Modelle für Text, Sprache und Bilder lokal auf Endgeräten ausführt.
Geprüft von adrian
am
cactus ist eine Inferenz-Engine von Cactus Compute für lokale KI auf Endgeräten, unter der Apache License 2.0. Sie führt die eigenen Modelle der Firma aus: Needle für Tool-Aufrufe, strukturierte Extraktion und Embeddings, Whistle für Spracherkennung in sieben Sprachen und Mirage für Bilder. Dokumentiert ist der Weg über das Python-Paket cactus-compute mit seinen Kommandozeilen-Werkzeugen. Auf dem Mac kann sie außerdem Sprachmodelle über MLX ausführen.1
Im Browser
Es gibt auch eine WebAssembly-Fassung: cactus.js und cactus.wasm. Die JavaScript-Datei legt das Modul an, die Gewichte des Modells werden in seinen Speicher kopiert und mit cactus_load geladen, und cactus_describe nimmt die RGB-Pixel eines Bildes und gibt JSON zurück. Die Fassung, die ich aus einer Demo übernommen habe, lief erst, nachdem ich in cactus.js ein fehlendes Semikolon ergänzt hatte.2
-
Projektnotizen vom 18. November 2026. ↩
Beruht auf
- cactus auf GitHub von Cactus Compute [github]
-
Project: Mirage vision model in the browser
(
raw/2026/2026-11-18/project-mirage-vision-model-in-the-browser.md) [project]
Mehr dazu
Eingesetzt in
- Was die Maschine sieht Eine kleine App meiner alten Website: Du hast ein Foto gewählt, und das Bildmodell Mirage hat darin Objekte, Text und die Szene gefunden, ganz im Browser.
Von
- Cactus Compute Firma hinter cactus, einer Engine für kleine KI-Modelle auf Endgeräten, und Modellen wie dem Bildmodell Mirage.
Siehe auch
- Mirage Kleines Bildmodell von Cactus Compute, das in einem Foto Objekte mit Umrissen, Text und die Szene findet und als JSON zurückgibt.