Erklärt: KI-Modell vs. KI-System

Im Bereich AI wird eifrig an immer neuen KI-Modellen geschraubt. Gestern Objekterkennung in Bildern (Classification) und Anomalie-Erkennung, heute Large Language Models und morgen vielleicht ganz was Neues. “Die AI” steckt in erster Linie in den Modellen.

Modelle sind Machine-Learning-Artefakte, die durch Training meist grosser Datenmangen entstehen. Sie werden im Unternehmen zu einem eigenen Wertgegenstand, einem “asset”. Ohne Modell kein KI-basiertes Produkt.

Doch KI-Modelle sind direkt nicht von der bevorstehenden Regulierung durch den “EU Artificial Intelligence Act” betroffen. – Doch warum?

Vom Model zum System

In purer Form ist ein KI-Modell zwar von Wert, aber nicht alleine nutzbar. Es ist nur abgelegt und passiv, ähnlich wie eine Software: Das Software-Programm muss auf einem Betriebssystem und der dazugehörige Hardware gestartet werden, dies nennt man “Laufzeit”. Bei KI nennt sich dieser Teil “Inferenz”. Das Modell wird gestartet und über eine mehr oder weniger komplexe Ein-/Ausgabe-Schnittstelle nutzbar.

Heute liegt oftmals noch das Hauptaugenmerk auf dem Training. Spätestens bei der Regulierung, aber auch bei Betrachtungen der Betriebskosten steht die Inferenz im Vordergrund.

Zum Inferenz-Zeitpunkt wird aus dem AI Model sowie der Software und Hardware drumherum ein “System”, dass man hoffentlich dann sehr gut nutzen kann. Und dieses System ist dann gegebenenfalls reguliert.

Definition, Teil 1: “AI System”

Der AI Act definiert “KI System” so:

“artificial intelligence system” (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with.

Es handelt sich also um die Gesamtheit, nicht nur um einen Teil. Das Modell selbst wird im AI Act auch betrachtet, aber ebenso die Trainingsdaten, Tests und weitere System-bezogene Aspekte.

Eigentlich ist in dem oben bezeichneten Abschnitt noch keine vollständige Definition von “AI System” gegeben, komplett wird die Sache erst mit dem dort referenzierten 1. Anhang.

Definition, Teil 2: Annex I

Doch was steht drin in dem 1. Anhang, überschrieben mit “ARTIFICIAL INTELLIGENCE TECHNIQUES AND APPROACHES”?

(a) Machine learning approaches, including supervised, unsupervised and reinforcement learning, using a wide variety of methods including deep learning;

(b) Logic- and knowledge-based approaches, including knowledge representation, inductive (logic) programming, knowledge bases, inference and deductive engines, (symbolic) reasoning and expert systems;

(c) Statistical approaches, Bayesian estimation, search and optimization methods.

Punkt (a) ist nicht weiter überraschend, dass ist klar erkennbar KI. Punkte (b) und (c) sind schon überraschend, aber das ist ein anderes Thema.

AI als System

In der EU-Definition steht explizit, dass das KI System “von Menschen vorgegebene Ziele” verfolgen muss. Dies ist ein weiterer Aspekt eines “Systems”: Der Zweck ist definiert, abgrenzbar und es sollte diesen auch erfüllen – nicht mehr, nicht weniger. Übrigens leitet sich aus dem Zweck ja auch ab, ob die AI überhaupt der Regulierung unterliegt und welcher Art, also z.B. “high-risk”. Und das macht als Konsequenz dann viel weniger oder eben auch viel mehr Arbeit um mit der EU-Verordnung konform zu sein.

Zum System gehören weitere Eigenschaften, die das Modell alleine in der Regel nicht erfüllt: Schutz vor unbefugter Nutzung. Verfügbarkeit bei hoher Nutzung, was den Einsatz von mehreren Instanzen des Modells nötig machen könnte. Schutz vor ungewollten Eingriffen ins System. Und viele mehr.

Was heißt das für die eigenen KI-Systeme?

Deshalb ist es sinnvoll frühzeitig – vom Anfang des Herstellungsprozesses bis zum Einsatz – das KI-Systems mit entsprechenden Tätigkeiten zu begleiten wie Dokumentation, Checklisten, Archivierung von Trainingsdaten etc. Nur mit diesem ganzheitlichen Blick wird aus einem AI model ein der Regulierung entsprechendes AI System.

Disclaimer: Der EU AI Act ist bei Veröffentlichung dieses Artikels noch nicht in Kraft und kann sich noch grundlegend ändern. Wir ergänzen den Artikel so schnell wie möglich sobald neue Informationen bekannt werden. Bei rechtlichen Fragen ziehen Sie bitte einen Rechtsanwalt hinzu.