Definition von KI

KI System

Diese Seite bietet einen kompakten Überblick über die wesentlichen Elemente der Definition eines KI-Systems gemäß der KI-Verordnung sowie über die einschlägigen Leitlinien der Europäischen Kommission zur Auslegung dieser Definition.

Gemäß Artikel 3 Nummer 1 KI-VO bezeichnet der Begriff "KI-System"
"ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt ist, das nach seiner Inbetriebnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben – etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen – erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können".

Diese Definition umfasst sieben zentrale Elemente, die im Folgenden jeweils kurz erläutert werden.

1. Maschinengestütztes System

Das erste Definitionselement stellt fest, dass ein KI-System notwendigerweise "maschinengestützt" ist, also auf technischen Maschinen entwickelt und betrieben wird. Der Maschinenbegriff ist dabei weit zu verstehen und umfasst sowohl Hardware- als auch Softwarekomponenten sowie sämtliche Arten von Rechensystemen, die Rechenkapazitäten zur Verfügung stellen, einschließlich neuer technologischer Ansätze wie der Quanteninformatik.

2. Autonomie

Das zweite Definitionselement verlangt, dass ein KI-System für einen Betrieb mit einem gewissen Grad an Autonomie konzipiert ist. Darunter fällt die Fähigkeit des Systems, ohne kontinuierliches menschliches Zutun oder menschliches Eingreifen Ableitungen vorzunehmen und Ausgaben zu erzeugen.

Die Begriffe der Autonomie und der Ableitung (Definitionselement 5) greifen dabei ineinander: Die Fähigkeit eines KI-Systems zur Ableitung ist eine unerlässliche Voraussetzung für das Erreichen eines autonomen Systembetriebs. Das zweite Definitionselement stellt jedoch lediglich darauf ab, dass ein „gewisser Grad an Autonomie“ vorliegen muss; ausgeschlossen sind somit nur solche Systeme, die ausschließlich für einen Betrieb unter vollständigem manuellem Zutun und fortlaufendem Eingreifen des Menschen konzipiert sind.

Die Leitlinien erläutern, dass menschliches Zutun und menschliches Eingreifen entweder direkt, etwa durch manuelle Kontrollen, oder indirekt erfolgen können, beispielsweise durch automatisierte, systemgestützte Kontrollen, die es dem Menschen ermöglichen, den Systembetrieb zu delegieren oder zu beaufsichtigen.
Ferner wird klargestellt, dass ein System, das zwar manuelle Eingaben benötigt, im Anschluss jedoch selbstständig eine Ausgabe erzeugt, als ein System gilt, das "bis zu einem gewissen Grad unabhängig agiert". Dies ist der Fall, wenn das System so ausgestaltet ist, dass es eine Ausgabe generieren kann, ohne dass diese manuell gesteuert oder von einem Menschen ausdrücklich und im Einzelnen vorgegeben wird.

3. Anpassungsfähigkeit

Das dritte Element der Definition eines KI-Systems betrifft dessen mögliche Anpassungsfähigkeit nach der Inbetriebnahme. Die Anpassungsfähigkeit ist von der Autonomie zu unterscheiden, steht jedoch in einem engen funktionalen Zusammenhang mit dieser. Während sich die Autonomie auf die eigenständige Ableitung von Ausgaben bezieht, betrifft die Anpassungsfähigkeit die Lernfähigkeit des Systems, durch die sich dessen Verhalten während der Nutzung verändern kann. Ein angepasstes System kann bei identischen Eingaben zu anderen Ausgaben gelangen als vor der Anpassung.

Die Verwendung des Begriffs "kann" verdeutlicht, dass eine Lern- oder Anpassungsfähigkeit keine zwingende Voraussetzung für die Einstufung als KI-System darstellt. Damit bleibt ausdrücklich offen, dass auch Systeme, die nach ihrer Inbetriebnahme nicht anpassungsfähig sind, als KI-Systeme im Sinne der Definition gelten können. 

4. Ziele eines KI-Systems

Das vierte Element betrifft die Ziele, für die ein KI-System ausgelegt ist. KI-Systeme werden so konzipiert, dass sie ein oder mehrere Ziele verfolgen, die entweder explizit oder implizit festgelegt sein können. Explizite Ziele sind vom Entwickler konkret vorgegebene Zielvorgaben, etwa die Optimierung einer Kostenfunktion oder die Berechnung bestimmter Wahrscheinlichkeiten. Implizite Ziele sind demgegenüber nicht ausdrücklich benannte Zielsetzungen; sie ergeben sich vielmehr aus dem Systemverhalten, den zugrunde liegenden Annahmen, den verwendeten Trainingsdaten sowie aus der Interaktion des Systems mit seiner Umgebung. 

5. Ableiten, wie Ausgaben erzeugt werden können

Das fünfte Definitionselement stellt womöglich das wesentlichste Unterscheidungsmerkmal eines KI-Systems dar. Es verlangt, dass ein KI-System in der Lage ist, aus erhaltenen Eingaben abzuleiten, wie Ausgaben erzeugt werden. Diese Fähigkeit zur Ableitung stellt nach Erwägungsgrund 12 der KI-Verordnung ein wesentliches und unverzichtbares Charakteristikum von KI-Systemen dar und dient zugleich der Abgrenzung gegenüber herkömmlichen Softwaresystemen, die ausschließlich auf von natürlichen Personen festgelegten Regeln beruhen. 

Die Ableitung umfasst sowohl die Fähigkeit, in der Nutzungsphase Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu erzeugen, die physische oder digitale Umgebungen beeinflussen können, als auch – insbesondere in der Aufbauphase – die Fähigkeit, Modelle oder Algorithmen aus Daten oder Eingaben zu entwickeln. Der in Artikel 3 Nummer 1 der KI-Verordnung verwendete Begriff "ableitet, wie Ausgaben erstellt werden" ist dabei bewusst weit gefasst und erfasst sämtliche KI-spezifischen Techniken, die eine solche Ableitung ermöglichen.

Die Leitlinien der Europäischen Kommission beschreiben die wesentlichen Kategorien von KI-spezifischen Techniken, die ein solches Ableiten ermöglichen, sowie übergreifende Kategorien von Systemen, die außerhalb des Anwendungsbereichs der Definition liegen; beides wird am Ende dieser Übersicht jeweils kurz zusammenfassend dargestellt.

6. Ausgaben eines KI-Systems

 Das sechste Element der Definition eines KI-Systems betrifft die Ausgaben, die von einem KI-System erzeugt werden. Diese können folgende Formen annehmen:

• Vorhersagen beziehen sich auf die Schätzung unbekannter Werte (Ausgaben) auf der Grundlage bekannter Werte, die dem System als Eingaben zur Verfügung gestellt werden.
• Inhalte betreffen die Erzeugung neuer Materialien durch ein KI-System. Hierzu zählen unter anderem Texte, Bilder, Videos, Musik sowie weitere Ausgabeformen. Obwohl Inhalte aus technischer Sicht häufig als Abfolge von "Vorhersagen" oder "Entscheidungen“ verstanden werden können, werden sie aufgrund ihrer besonderen Bedeutung und Verbreitung in generativen KI-Systemen als eigenständige Ausgabenkategorie aufgeführt.
• Empfehlungen beziehen sich auf Vorschläge für konkrete Maßnahmen, Produkte oder Dienstleistungen für Nutzer, die auf deren Präferenzen, Verhaltensweisen oder sonstigen Dateneingaben beruhen.
• Entscheidungen beziehen sich auf Schlussfolgerungen oder Auswahlentscheidungen eines Systems. Ein KI-System, das Entscheidungen ausgibt, automatisiert Prozesse, die üblicherweise dem menschlichen Urteilsvermögen vorbehalten sind.

Die Leitlinien stellen klar, dass das Erstellen von Ausgaben zwar ein notwendiges Element eines KI-Systems darstellt, jedoch kein hinreichendes, da auch Nicht-KI-Systeme in der Lage sind, Ausgaben zu erzeugen. In der Regel können KI-Systeme jedoch differenziertere und nuanciertere Ausgaben hervorbringen, da sie besonders komplexe Datenbeziehungen und -muster verarbeiten können.

7. Interaktion mit der Umgebung

Das letzte Definitionselement enthält eine Spezifizierung des im vorangegangenen Element eingeführten Begriffs der "Ausgaben". Es stellt klar, dass diese physische oder virtuelle Umgebungen beeinflussen können. Damit wird hervorgehoben, dass KI-Systeme nicht passiv sind, sondern sich aktiv auf die Umgebungen auswirken, in denen sie eingesetzt werden. Umgebungen können dabei sowohl physisch-materieller als auch virtueller Natur sein. Letztere umfassen etwa digitale Räume, Datenströme sowie Software-Ökosysteme, auf die ein KI-System Einfluss nehmen kann.

KI-Techniken, die das Ableiten ermöglichen

Auf der Grundlage von Erwägungsgrund 12 der KI-Verordnung werden in den Leitlinien der Kommission mehrere Techniken benannt, die in der "Aufbauphase" eines KI-Systems eingesetzt werden, um das System in die Lage zu versetzen, in der Folge im Sinne des fünften Definitionselements Ableitungen vorzunehmen. Diese Techniken lassen sich in zwei übergeordnete Kategorien einteilen: datengetriebene Ansätze des maschinellen Lernens sowie logik- und wissensgestützte Konzepte.

Ansätze des maschinellen Lernens, bei denen aus Daten gelernt wird, wie bestimmte Ziele erreicht werden können. Hierzu zählen insbesondere:

• Überwachtes Lernen, bei dem das System anhand gekennzeichneter Daten lernt, Eingaben bestimmten Ausgaben zuzuordnen (z. B. Spam-Erkennung, Bildklassifikation, medizinische Diagnosesysteme).
• Unüberwachtes Lernen, bei dem das System aus ungekennzeichneten Daten selbstständig Muster oder Strukturen ableitet (z. B. Clustering, Anomalie-Erkennung, Arzneimittelforschung).
• Selbstüberwachtes Lernen als Unterform des unüberwachten Lernens, bei der das System eigene Ziele oder Kennzeichnungen aus den Daten generiert (z. B. Sprach- und Bilderkennungssysteme).
• Bestärkendes Lernen, bei dem das System durch Interaktion mit seiner Umgebung auf Grundlage von Rückmeldungen ("Belohnungsfunktionen") lernt (z. B. Robotik, Empfehlungssysteme, autonome Fahrzeuge).
• Deep Learning als Unterkategorie des maschinellen Lernens, die auf mehrschichtigen neuronalen Netzen beruht und eine automatische Merkmalsextraktion aus großen Datenmengen ermöglicht.

Logik- und wissensgestützte Konzepte, bei denen Ableitungen nicht aus Daten, sondern aus von menschlichen Sachverständigen kodiertem Wissen erfolgen. Diese Systeme nutzen formale Logik, Regeln oder Ontologien, um Schlussfolgerungen zu ziehen, und umfassen unter anderem Expertensysteme, Wissensdatenbanken, Inferenz- und Deduktionsmechanismen sowie symbolische Argumentations- und Suchverfahren.

Systeme außerhalb des Anwendungsbereichs der Definition eines KI-Systems

Die Leitlinien der Kommission stellen auf Grundlage von Erwägungsgrund 12 der KI-Verordnung klar, dass die Definition eines KI-Systems der Abgrenzung gegenüber einfacheren herkömmlichen Softwaresystemen dient. Nicht erfasst sind insbesondere Systeme, die ausschließlich auf von natürlichen Personen festgelegten Regeln beruhen oder keine hinreichende Fähigkeit zur autonomen Analyse, Anpassung oder Ableitung aufweisen.

Zu den Systemen, die regelmäßig außerhalb des Anwendungsbereichs der Definition eines KI-Systems liegen, zählen insbesondere:

• Systeme zur Verbesserung der mathematischen Optimierung, die Optimierungsverfahren beschleunigen oder approximieren, ohne über eine grundlegende Datenverarbeitung hinauszugehen. Hierzu gehören etwa Systeme, die Rechenprozesse effizienter gestalten, ohne eigenständige Entscheidungsmodelle zu entwickeln oder anzupassen.
• Physikalische oder technische Systeme, die maschinelles Lernen lediglich zur Beschleunigung von Simulationen oder zur Parameterschätzung einsetzen, etwa zur effizienteren Modellierung komplexer physikalischer Prozesse.
• Einfache Systeme zur Datenverarbeitung, die auf vorab festgelegten, expliziten Regeln beruhen und weder Lern-, Schlussfolgerungs- noch Modellierungsprozesse durchlaufen, wie etwa Datenbankabfragen, einfache Tabellenkalkulationen oder statistische Auswertungen ohne KI-gestützte Funktionen.
• Systeme für beschreibende Analysen und Visualisierung, die Daten lediglich zusammenfassen oder darstellen, ohne Empfehlungen, Vorhersagen oder Entscheidungen abzuleiten.
• Auf klassische Heuristiken gestützte Systeme, die vordefinierte Regeln oder Algorithmen anwenden, ohne ihre Modelle auf Grundlage von Daten oder Erfahrungen anzupassen, etwa regelbasierte Such- oder Bewertungsverfahren.
• Einfache Vorhersage- oder Benchmarking-Systeme, deren Leistung auf grundlegenden statistischen Schätzungen beruht, wie Mittelwert- oder Durchschnittsprognosen, und die nicht die Leistungsfähigkeit komplexerer KI-Modelle erreichen.

Zwar können einzelne dieser Systeme automatische Anpassungen vornehmen oder maschinengestützt arbeiten; diese Anpassungen zielen jedoch ausschließlich auf die Optimierung bestehender Rechen- oder Verarbeitungsprozesse ab und ermöglichen keine autonome, KI-spezifische Ableitung im Sinne des fünften Definitionselements. Unter diesen Voraussetzungen sind sie vom Anwendungsbereich der Definition eines KI-Systems ausgenommen.

Weitere Informationen

• Leitlinien der Europäischen Kommission