Das Sprachmodell ist austauschbar, die Rechte bleiben.

Die Laufzeit spricht mit jedem Sprachmodell über dieselbe interne Schnittstelle. Hinein gehen Nachrichten, getrennt nach Auftrag, Regeln und Inhalt, die Beschreibungen der erlaubten Werkzeuge als JSON Schema und Parameter wie die längste Ausgabe. Heraus kommen entweder Text oder ein Werkzeugaufruf als strukturierte Daten, dazu die Angabe, wie viele Token verbraucht wurden.

Je Anbieter und je Betriebsart übersetzt ein Adapter diese Schnittstelle in das, was das jeweilige Sprachmodell erwartet. Die Unterschiede sind real: Werkzeugaufrufe, strukturierte Ausgaben und Datenströme sind je Anbieter anders ausgeführt, und das Kontextfenster ist verschieden groß. Der Adapter gleicht sie aus oder meldet, dass eine Fähigkeit fehlt.

Zu jedem Sprachmodell führt AXON eine Fähigkeitsbeschreibung: Größe des Kontextfensters, Werkzeugaufrufe, strukturierte Ausgabe, Sprachen und Betriebsart. Ein Auftrag nennt Anforderungen und keinen Namen, etwa Werkzeugaufrufe, ein Kontextfenster dieser Größe und Betrieb im eigenen Netz. Die Laufzeit wählt unter den zugelassenen Sprachmodellen eines, das die Anforderungen erfüllt.

Gleich bleiben alle Teile, die für die Sicherheit sorgen: die Rechte und ihr Token, der Filter für den Kontext, die Werkzeuge mit ihrem Schema, die Vorbedingungen, die Freigabe und der Verlauf. Sie hängen an der Laufzeit, nicht am Sprachmodell. Ein anderes Sprachmodell kann einen Vorschlag anders formulieren oder anders irren; was es vorschlägt, durchläuft dieselbe Prüfung.

Was sich ändert, ist die Qualität der Vorschläge, das Verhalten bei Anweisungen im Inhalt, Dauer und Kosten. Darum ist ein Wechsel eine Änderung am Agenten. Er geht über denselben Weg wie jede andere: Merge Request, Bewertungslauf gegen dieselben Testfälle, Vergleich mit der freigegebenen Version, Freigabe durch eine zweite Person.

Der Agent nennt das Sprachmodell mit fester Versionsbezeichnung, nicht mit einer beweglichen. Kündigt ein Anbieter eine Version ab, läuft die Bewertung für die Nachfolgerin vor dem Stichtag, und ein Auftrag wird nicht still auf eine andere Version umgestellt.

AXON unterscheidet drei Betriebsarten. Erstens der Dienst eines Anbieters über dessen Programmierschnittstelle: Der Kontext verlässt die eigene Umgebung, und es braucht einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO, den Verarbeitungsort in der EU und den vertraglichen Ausschluss einer Nutzung der Daten zum Training. Zweitens der eigene Betrieb: Sprachmodelle mit offenen Gewichten laufen in der Umgebung der Organisation auf einem Inferenzserver. Drittens der Betrieb im abgeschotteten Netz, in das HERMES die Gewichte als geprüftes Paket liefert.

Welche Betriebsart zulässig ist, entscheidet die Markierung der Daten im Kontext. Offene Daten dürfen an einen Dienst, vertrauliche nur an den eigenen Betrieb, personenbezogene beim Dienst nur mit Freigabe und gedecktem Verarbeitungsvertrag, besonders geschützte nur im abgeschotteten Netz. Die Zuordnung steht als Regel im System. Sie wird beim Zusammensetzen des Kontexts angewandt, nicht im Prompt, und enthält der Kontext eine Markierung, die der gewählte Betrieb nicht trägt, wird kein Aufruf abgesetzt.

Gewichte haben Lizenzen, und ein Sprachmodell im eigenen Betrieb ist eine Komponente wie jede andere. Es steht mit Version, Prüfwert und Lizenz in der Stückliste des Pakets, und die Prüfung vor dem Start gilt auch für sie.

Je Art des Auftrags steht fest, welche Sprachmodelle zugelassen sind: bewertet gegen die Testfälle dieser Art und geeignet für die Markierungen, die sie im Kontext trägt. Aus der zugelassenen Menge wählt die Laufzeit nach den Anforderungen und danach nach Kosten und Dauer. Das Ergebnis der Wahl steht im Verlauf.

Fällt ein Sprachmodell aus oder antwortet nicht in der gesetzten Zeit, wiederholt die Laufzeit mit wachsendem Abstand und weicht dann auf ein zugelassenes Ausweichsprachmodell aus. Es gibt keinen Ausweg auf irgendein Sprachmodell: Ist kein zugelassenes erreichbar, bricht der Auftrag mit einer Meldung ab, statt unter schwächeren Bedingungen weiterzulaufen.

Budgets gelten je Auftrag und je Mandant. Sie begrenzen Aufrufe und Token, damit ein Fehler, der einen Agenten in eine Schleife schickt, an der Grenze endet und nicht an der Rechnung.

Auch das beste Sprachmodell irrt. AXON behandelt jede Ausgabe als Vorschlag: Sie läuft durch Schema, Recht, Vorbedingung und, wo vorgesehen, Freigabe, bevor sie wirkt. Kein Sprachmodell erhält Zugangsdaten zu Zielsystemen, und kein Sprachmodell entscheidet, ob eine Handlung erlaubt ist.

Das gilt für jede Betriebsart und jede Größe. Ein größeres Sprachmodell senkt die Zahl der Fehler, es ersetzt keine Prüfung. Eine Handlung, die nur ein bestimmtes Sprachmodell sicher macht, wäre eine Handlung, die man nicht freigeben sollte.