Global Ethics Day 2024: INFORM setzt sich für ausgewogene Bewertung von KI-Chancen
und -Risiken ein

Europäische KI-Verordnung und ihre ethischen Dimensionen

In der Europäischen Union bildet die KI-Verordnung eine wichtige Grundlage für den Umgang mit KI. Die gesetzliche Regelung nimmt dabei eine klare Klassifikation vor, die auch von ethischen Maßstäben getrieben ist – z. B. im Bereich der verbotenen Praktiken wie Social Scoring (Bewertung des sozialen Verhaltens von Personen) und der Echtzeitüberwachung öffentlicher Plätze (außer für Gründe der Strafverfolgung). 

Einen breiten Katalog weiterer KI-Systeme, die jetzt regulatorischen und generell auch ethischen Maßstäben genügen müssen, liefert die KI-Verordnung im Bereich der Hochrisikosysteme. „Vor allem in sensiblen Bereichen wie Personalwesen und Bildung sind die Anforderungen besonders hoch,“ erklärt Herbers. „Das gilt z. B. für die Überwachung der Systeme, aber auch für die Qualität der Daten.“ KI-Systeme in diesen Bereichen müssen strengen Auflagen folgen: von besonderer Qualitätssicherung bis hin zur menschlichen Aufsicht.

Ethische Herausforderungen und die Bedeutung menschlicher Kontrolle

Herbers erklärt, dass auch die DSGVO bereits ethische Standards formuliert: „Dort, wo Algorithmen Entscheidungen treffen, die maßgebliche rechtliche Auswirkungen für die Einzelperson haben, müssen maschinelle Entscheidungen erklärbar sein. Die Frage der menschlichen Kontrolle finden wir jetzt in der KI-Verordnung wieder.“ Dort, wo eine Entscheidung im Wesentlichen von Menschen getroffen wird und KI nur unterstützt, gelten KI-Systeme nicht als Hochrisikosysteme. 

Ethische Bewertungen von KI-Anwendungen sind dabei oft komplex und kontextabhängig. In Industriebetrieben werden etwa Sensordaten an Maschinen dafür gesammelt, um Qualitätskontrollen durchzuführen. Wenn dieselben Daten aber zur Überwachung von Mitarbeitenden verwendet würden, wäre der Fall in Bezug auf Datenschutz und Mitbestimmung anders zu beurteilen. „Solche Beispiele zeigen, dass es generell nicht an den Daten oder der Technologie selbst hängt, ob eine Praktik ethisch anspruchsvoll ist, sondern an der Anwendung,“ resümiert Herbers. „Dementsprechend ist eine differenzierte Betrachtung auch bei der ethischen Regulierung angemessen und wichtig.“

Aufruf zur ausgewogenen Bewertung ZUM Global Ethics Day

Anlässlich des Global Ethics Day betont INFORM, dass Künstliche Intelligenz (KI) nicht nur technologische, sondern auch ethische und gesellschaftliche Implikationen hat. Als Unternehmen, das sich auf KI-Lösungen zur Optimierung von Geschäftsprozessen und zur Unterstützung intelligenter Entscheidungsfindung spezialisiert hat, setzt INFORM sich dafür ein, ethische Überlegungen zu einem zentralen Bestandteil der Entwicklung und des Einsatzes von KI zu machen. „Die KI-Verordnung der EU liefert uns hier eine wichtige Grundlage, doch es bleibt entscheidend, dass wir stets auch eine eigenständige, ethisch fundierte Bewertung vornehmen“, betont Herbers. „Wir müssen die Chancen von KI sehen und gleichzeitig verantwortungsvoll agieren. Der Global Ethics Day ist ein passender Moment, um sich diese Verantwortung vor Augen zu halten.“