Templates & Vorlagen

Klare Grenzen für automatisierte Systeme

Dieses Kapitel beschreibt, wie Selmo den Einsatz von KI und automatisierter Codeerzeugung einordnet und warum formale Modelle die entscheidende Voraussetzung für verantwortbaren KI-Einsatz sind.

Es geht nicht darum, KI zu bewerten, sondern darum, ihren Wirkraum klar zu begrenzen.

---

Die Ausgangslage

Der Einsatz von KI in der Automatisierung nimmt zu:

• Codegenerierung

• Vorschläge für Abläufe

• Optimierung von Parametern

• Assistenzsysteme im Engineering

Damit entsteht eine zentrale Frage:

Wer trägt Verantwortung für das Verhalten der Maschine, wenn der Code (teilweise) automatisch erzeugt wird?

Diese Frage lässt sich nicht auf Code-Ebene beantworten.

---

Code ist kein Verantwortungsobjekt

Code beschreibt:

• eine Implementierung

• eine technische Umsetzung

• eine konkrete Ausprägung

Code beschreibt nicht:

• die Intention

• die Zulässigkeit

• die Verantwortung für Verhalten

Unabhängig davon, ob Code:

• von einem Menschen

• von einem Generator

• oder von einer KI

erstellt wurde, gilt:

Verantwortung kann nicht im Code verankert werden.

---

Das Modell als verantwortliche Instanz

In Selmo liegt Verantwortung nicht im Code, sondern im formalen Verhaltensmodell.

Das Modell definiert:

• welche Zustände existieren

• welches Verhalten erlaubt ist

• welche Bedingungen zwingend gelten

• welche Reaktion bei Abweichung erfolgt

Damit gilt:

• Code darf das Modell umsetzen

• Code darf das Modell nicht erweitern

• Code darf das Modell nicht verletzen

Das Modell begrenzt den Code – unabhängig davon, wer ihn erzeugt.

---

KI als Werkzeug, nicht als Entscheider

In einem Selmo-basierten System kann KI:

• Code erzeugen

• Vorschläge machen

• Varianten vergleichen

• Optimierungen unterstützen

KI darf jedoch nicht:

• entscheiden, welche Zustände erlaubt sind

• Sicherheitsannahmen verändern

• Überwachungslogik umgehen

• Verantwortung übernehmen

KI darf umsetzen und optimieren – aber nicht definieren, was zulässig ist.

---

Determinismus als Schutzmechanismus

Der deterministische Charakter des Selmo-Modells ist entscheidend für den KI-Einsatz:

• gleiche Zustände → gleiches Verhalten

• gleiche Abweichungen → gleiche Reaktionen

• keine impliziten Annahmen

Damit wird verhindert, dass:

• KI implizite Logik einführt

• Verhalten nicht mehr erklärbar ist

• Entscheidungen nicht mehr begründet werden können

Determinismus ist die Grenze für Automatisierung.

---

Nachvollziehbarkeit und Haftung

Im Schadens- oder Auditfall sind entscheidende Fragen:

• Welches Verhalten war erlaubt?

• Welche Bedingung galt?

• Warum hat das System reagiert?

Mit einem formalen Modell lassen sich diese Fragen beantworten, unabhängig davon, ob der Code manuell oder automatisch erzeugt wurde.

Haftung folgt dem Modell – nicht dem Ursprung des Codes.

---

Abgrenzung

Zur Klarstellung:

• Selmo ist keine KI

• Selmo ist kein Codegenerator

• Selmo ist keine Automatisierungs-KI

Selmo ist:

der formale Rahmen, in dem KI verantwortbar eingesetzt werden kann.

---

Zusammenfassung

Der Einsatz von KI in der Automatisierung ist unvermeidlich – aber Verantwortung bleibt menschlich.

Selmo stellt sicher, dass:

• Verhalten explizit definiert ist

• Code (auch KI-generiert) begrenzt bleibt

• Nachvollziehbarkeit jederzeit gegeben ist

KI kann Code erzeugen. Das Modell trägt die Verantwortung.