Ein KI-Netz. Viele Server. Alle deine GPUs.

Anfragen werden auf registrierte GPU-Knoten verteilt – eigene Server, Workstations oder Knoten von Providern.

NVIDIA-Consumer-Karten, Intel Arc und DGX-Klasse laufen unter einem Endpunkt. Jeder Knoten wird vermessen, statt ihm zu glauben.

Ollama, vLLM, llama.cpp/llama-swap und OpenAI-kompatible Gateways werden vom selben Knoten-Agenten angebunden.

Der Knoten ermittelt, wie viel Kontext ein Modell auf seiner Karte vollständig im GPU-Speicher halten kann. Die Reserve je Backend ist einstellbar. Cloud-Modelle melden ihr eigenes Fenster.

Gesundheitszustände, Wiederverbindung und Versionsanzeige je Knoten (grün = aktuell).

Einschränkung: Ein Update kann fälschlich als fehlgeschlagen gemeldet werden; die Abnahme steht aus.

Nicht erreichbare oder verstummte Knoten und Modelle werden erkannt und für neue Arbeit ausgeschlossen, bis eine Prüfung sie wieder freigibt.

Knoten streamen vom Backend und melden Fortschritt. Ein langer Agenten-Zug oder eine lange Antwort läuft, solange Tokens kommen; abgebrochen wird erst bei Stille.

Einschränkung: Für Prompt-Jobs erst seit Version 1.3.414 aktiv; Knoten brauchen den aktuellen Agenten.

Mehrere EnigmaNet-Server teilen sich Warteschlange (PostgreSQL) und Koordination (Redis) und können gemeinsam Arbeit verteilen.

Einschränkung: Skalierungsdurchsatz, Höchstzahl an Instanzen und Ausfallsicherheit sind nicht gemessen.

Ein Knoten im Zustand „Draining“ bekommt keine neue Arbeit, laufende Jobs dürfen enden.

Einschränkung: Nahtlose Übergabe laufender Arbeit ist nicht abgenommen.

Kandidaten werden nach gemessenen Fähigkeiten je Aufgabe, Benchmark, Tempo und Zuverlässigkeit bewertet.

Ein serverseitig bewerteter Benchmark fließt in die Modellwahl ein.

Einschränkung: Benchmark- und Betriebswerte liegen auf unterschiedlichen Skalen; neue Modelle können zu gut abschneiden.

Modelle, deren Fenster für die Anfrage zu klein ist, werden nicht gewählt; die Absage nennt den Kontext.

Einschränkung: Token-Schätzungen und Reserve für wachsende Agenten-Verläufe sind noch ungenau.

Anfragen können auf Knoten einer Region beschränkt werden, z. B. EU.

Vertraulichkeitsstufen bis „secret“ sollen nur auf berechtigten, eigenen Knoten laufen; Nicht-Erfüllbares wird abgewiesen.

Einschränkung: Die Ende-zu-Ende-Abnahme von Eigentümerbindung und Richtlinien steht aus. Keine Zusage zur Datenhaltung.

Wartet ein Werkzeug-Job zu lange auf einen belegten Knoten, darf er auf ein anderes, nachweislich werkzeugfähiges freies Modell wechseln.

Einschränkung: Gilt für Werkzeug-Anfragen; ein fest gewähltes Modell wird nie ersetzt.

„auto“, „enigma-direct“ und „enigma-small“ lassen EnigmaNet das passende Modell wählen.

Jobs werden dauerhaft eingereiht und erst bei freier Kapazität einem Knoten zugeteilt; direkte Anfragen haben Vorrang vor Hintergrundarbeit.

Ist eine Prioritätsstufe zu voll, antwortet die API mit HTTP 429 und Retry-After.

Einschränkung: Kein hartes Kapazitätslimit: fällt die Messung aus, wird die Anfrage angenommen. Keine kundenindividuellen Prioritäten.

Ist ein Job ungewöhnlich langsam, kann eine Kopie auf freier, passender Kapazität starten; das schnellere Ergebnis gilt.

Einschränkung: Doppelte Arbeit und Abbruch der Verliererkopie sind nicht in jedem Pfad gelöst.

Ob ein Modell auf einem Knoten echte Werkzeugaufrufe liefert, wird gemessen (nativ, umgewandelt oder nicht fähig) – nicht aus der Selbstauskunft übernommen. Die Auswahl richtet sich danach.

Schreibt ein Modell seinen Werkzeugaufruf als Text, auch neben Erklärungen, wird daraus ein echter tool_call.

Einschränkung: Hilft Modellen, die das Format kennen; Modelle ohne Werkzeug-Training werden dadurch nicht zuverlässig.

Mit dem Header x-enigma-lane bleiben Arbeiter eines Agenten-Laufs auf verschiedenen Knoten verteilt und dort gebunden.

Ein fest gewähltes Modell wird nie ersetzt; Spuren halten Arbeiter auf ihrem Knoten.

Einschränkung: Mit „auto“ kann eine Sitzung zwischen Zügen das Modell wechseln.

Der Coding-Agent OpenCode läuft mit EnigmaNet als Backend, als fertiges Docker-Image oder selbst eingerichtet.

Einschränkung: Vorschau. Eine Abnahmeaufgabe lief vollständig auf eigener Hardware durch; Erfolg hängt stark vom Modell ab.

Bilder gehen direkt an bildfähige Modelle; die Fähigkeit wird je Knoten gemessen.

Einschränkung: Nur direkte Anfragen, kein Streaming und keine Orchestrierung mit Bildern.

Audio kann über einen STT-Dienst transkribiert werden.

Einschränkung: Nicht jeder Knoten bietet STT an; bei Stille wurden erfundene Abschriften beobachtet.

Code läuft in eigenen Sandbox-Workern, getrennt von den Inferenz-Knoten.

Standardisierte, deterministische Werkzeuge für Agenten und Orchestrierung.

/v1/chat/completions mit Streaming und tool_calls: vorhandene Clients wie OpenCode, Continue oder eigene Anwendungen laufen ohne Anpassung.

/api/chat, /api/generate und /api/tags für Clients, die Ollama erwarten.

Einschränkung: Ohne Streaming.

Signierter Maschine-zu-Maschine-Vertrag mit HMAC, Nonce und Zeitstempel gegen Wiederholung, Idempotenzschlüsseln und mandantengebundenem Zugriff.

Maschinenlesbare Spezifikation und Abfrage, welche Fähigkeiten gerade verfügbar sind.

Bricht ein Client die Verbindung ab, wird der Job samt Unteraufgaben beendet und der Knoten angehalten.

Status- und Fortschrittsereignisse während der Bearbeitung, bei Orchestrierung je Teilschritt.

Der Antworttext erscheint beim Client, während das Modell noch schreibt – vom Knoten über den Server bis zur OpenAI-kompatiblen API.

Einschränkung: Etwa sekündliche Abschnitte statt einzelner Tokens. Werkzeug-Chats streamen nur auf Knoten mit nachweislich nativen Werkzeugaufrufen; Knoten brauchen den aktuellen Agenten.

Hardwarebewusste Einrichtung und Bindung eines Knotens an sein Konto per Token.

Setup und Knoten werden in der CI schlüssellos signiert (Sigstore). Installation und Update prüfen Signatur und Prüfsumme, bevor etwas ersetzt wird – auch ohne Internet mit mitgebrachtem Vertrauensanker.

Auf Wunsch bekommt ein neu angemeldeter Knoten erst Arbeit, wenn ein Admin ihn freigibt. Vorgabe in der Community-Edition.

Ein Clan ist ein privates Rechennetz: ausdrücklich eingebrachte Knoten, Rollen, eine Richtlinie für Regionen, Vertrauen, Backends, Cloud und Modelle, eigene API-Schlüssel, Nutzung und Kosten, Audit-Log und ein Lebenszyklus. Anfragen verlassen den Pool nie.

Einschränkung: Neu; Anmeldung über Unternehmens-Identitäten (SSO), Kontingente und Budgets fehlen.

Status, Modelle, Hardware, Kontext, Version und Vertrauensstufe aller Provider-Knoten sind ohne Anmeldung einsehbar.

Verbrauch wird je Job erfasst und als Guthaben an Provider verteilt.

Buchhaltung für einen Euro-Topf an Provider.

Einschränkung: Keine automatischen Auszahlungen; rechtliche und steuerliche Klärung offen.

Jeder Job hinterlässt seine Stationen mit Zeitstempeln – nachvollziehbar, wo Zeit verloren ging.

Regelmäßige Sicherung der Produktionsdatenbank.

Einschränkung: Wiederherstellungsübungen und Ziele für Wiederanlauf und Datenverlust sind nicht festgelegt.

Ein Planer zerlegt komplexe Aufgaben in Teilschritte mit Abhängigkeiten; unabhängige Schritte laufen parallel, die Teilergebnisse werden zusammengeführt.

Abläufe als Graph zusammenstellen und ausführen.

Ein Prüfer bewertet Agenten-Ergebnisse, der Agent arbeitet mit dem Befund weiter. Derzeit Experiment.

Metasuche und Abruf gerenderter Seiten über Sandbox-Worker, Relevanz per Embedding und Cross-Encoder.

Mehrere Abrufwege, auch über residentielle Worker.

Einschränkung: Manche Seiten blockieren oder verlangen Zustimmung; Zugriff ist nicht garantiert.

Werte werden mit Einheit, Zeitraum und Quelle gebunden und über mehrere Quellen abgeglichen; ehrliches „nicht gefunden“ statt erfundener Zahl.

Einschränkung: Bindung von Monats- und Schlusskursen sowie Rechnungen sind bei manchen Quellen noch unzuverlässig.

Antworten stützen sich auf die abgerufenen Belege.

Einschränkung: Erklärende Abschnitte können ohne Beleg entstehen, auch wenn die Zahlen geprüft sind.

Kern, Web und Datenbank auf einem Rechner per Docker Compose, Knoten per Setup. Läuft auch ohne Internet: ein Offline-Paket bringt Images, signierte Programme und den Vertrauensanker mit. Ohne Lizenzschlüssel und ohne Grenzen für GPUs, Knoten oder Modelle.

Einschränkung: Geprüft auf einem Rechner und ohne Internet mit einem Knoten; ein Test mit mehreren Knoten unterschiedlicher Hardware und Rückmeldungen von Nutzern stehen aus.

Private, richtliniengesteuerte KI-Ausführung über gemischte eigene Hardware.