cactus

Quelloffene Engine von Cactus Compute, die kleine KI-Modelle für Text, Sprache und Bilder lokal auf Endgeräten ausführt.

Werkzeug Erstellt Externe Seite Auch auf Englisch: cactus

Geprüft von adrian am

cactus ist eine Inferenz-Engine von Cactus Compute für lokale KI auf Endgeräten, unter der Apache License 2.0. Sie führt die eigenen Modelle der Firma aus: Needle für Tool-Aufrufe, strukturierte Extraktion und Embeddings, Whistle für Spracherkennung in sieben Sprachen und Mirage für Bilder. Dokumentiert ist der Weg über das Python-Paket cactus-compute mit seinen Kommandozeilen-Werkzeugen. Auf dem Mac kann sie außerdem Sprachmodelle über MLX ausführen.1

Im Browser

Es gibt auch eine WebAssembly-Fassung: cactus.js und cactus.wasm. Die JavaScript-Datei legt das Modul an, die Gewichte des Modells werden in seinen Speicher kopiert und mit cactus_load geladen, und cactus_describe nimmt die RGB-Pixel eines Bildes und gibt JSON zurück. Die Fassung, die ich aus einer Demo übernommen habe, lief erst, nachdem ich in cactus.js ein fehlendes Semikolon ergänzt hatte.2


  1. cactus auf GitHub. ↩

  2. Projektnotizen vom 18. November 2026. ↩

Beruht auf

  • cactus auf GitHub von Cactus Compute [github]
  • Project: Mirage vision model in the browser (raw/2026/2026-11-18/project-mirage-vision-model-in-the-browser.md) [project]

Mehr dazu

Eingesetzt in

  • Was die Maschine sieht Eine kleine App meiner alten Website: Du hast ein Foto gewählt, und das Bildmodell Mirage hat darin Objekte, Text und die Szene gefunden, ganz im Browser.

Von

  • Cactus Compute Firma hinter cactus, einer Engine für kleine KI-Modelle auf Endgeräten, und Modellen wie dem Bildmodell Mirage.

Siehe auch

  • Mirage Kleines Bildmodell von Cactus Compute, das in einem Foto Objekte mit Umrissen, Text und die Szene findet und als JSON zurückgibt.

In der Graph-Ansicht zeigen