Was ist das KI-Cockpit Projekt?

Welches Ziel verfolgt das Projekt?

Das Projekt „KI-Cockpit“ trägt dazu bei, den menschenzentrierten Einsatz von Künstlicher Intelligenz (KI) in der Arbeitswelt zu unterstützen. Es richtet sich insbesondere an Organisationen und Unternehmen, die KI-Systeme in sensiblen Anwendungsfeldern, wie zum Beispiel im Gesundheitssektor, nutzen oder einführen möchten. Die KI-Cockpit-Software ermöglicht eine transparente Nutzung KI-gestützter Software in der betrieblichen Praxis. Es handelt sich um eine eigenständige Anwendung, die an verschiedene KI-Systeme angeschlossen werden kann. Beschäftigte erhalten damit einen klaren Überblick über die Entscheidungen der KI und werden befähigt, menschliche Aufsicht sicherzustellen sowie selbstbestimmt eine Kontrolle der maschinellen Abläufe vorzunehmen.

Das KI-Cockpit (KIC) ist eine Software, die menschliche Aufsicht über KI-Systeme ermöglicht, indem Daten des KI-Systems so aufbereitet, kontextualisiert und visualisiert werden, dass die Nutzer:innen das KI-System kontrollieren und somit ihrer Aufsichtsfunktion adäquat nachkommen können.

Diese Aufsicht ist nicht nur ethisch geboten, sondern auch rechtlich notwendig durch Inkrafttreten der europäischen KI-Verordnung – der weltweit ersten umfassenden Verordnung über KI. [Kapitel: KIC & KI-Verordnung] Die Entwicklung des KI-Cockpits erfolgte im Rahmen des Forschungsprojekts „KI-Cockpit - Implementierung von Praxisbeispielen für Human in Command“, welches durch das Bundesministerium für Arbeit und Soziales (BMAS) gefördert wurde. [Kapitel: Wer ist Teil des KIC-Projekts?]

Dank der Bereitstellung als Open-Source-Lösungen stehen die Softwares einer breiten Gruppe von Nutzenden offen. Sie kann von öffentlichen wie privaten Akteuren genutzt, angepasst und weiterentwickelt werden. Darüber hinaus bietet das Projekt nicht nur eine technische Lösung, sondern auch ein praxisorientiertes Vorgehensmodell, das als Vorlage für die menschenzentrierte Gestaltung und den Einsatz von KI in unterschiedlichsten Anwendungsbereichen dient.

Menschliche Aufsicht: Ziel ist es, Risiken für die Gesundheit, die Sicherheit oder die Grundrechte, die sich aus der Nutzung von Hochrisiko-KI-Systemen ergeben können, zu verhindern oder zu minimieren. Die Überwachungsmaßnahmen sollten den Risiken und dem Kontext der Nutzung des KI-Systems entsprechen (Art. 14 EU KI-VO).

Die voranschreitende Entwicklung von Künstlicher Intelligenz hat einen umfassenden Einfluss auf die Arbeitswelt. Die Versprechen und Aussichten sind weitreichend: KI kann Mitarbeitende entlasten, die Arbeitsqualität verbessern und die Produktivität steigern. Besonders in Bereichen, in denen Entscheidungsprozesse automatisiert werden können – wie etwa bei der Auswahl von Bewerbungen – kann der Einsatz von KI-Systemen zu einer effizienteren Gestaltung von Arbeitsabläufen beitragen.

Doch die erfolgreiche und risikobewusste Integration von KI geschieht nicht automatisch. Eine zentrale Voraussetzung ist, dass ihre Entwicklung, Gestaltung und Nutzung mit dem Menschen im Mittelpunkt erfolgt und sich eng an den Bedürfnissen sowie Fähigkeiten der Beschäftigten orientiert. Entscheidend ist, dass Mitarbeitende die eingesetzten KI-Systeme verstehen, überwachen und steuern können, um z.B. potenzielle Verzerrungen frühzeitig zu erkennen. KI kann nur dann eine sinnvolle Unterstützung sein, wenn die Kontrolle über ihre Entscheidungen beim Menschen liegt. Mit der KI-Cockpit Software und diesem Vorgehensmodell leistet das KI-Cockpit Projekt hierbei einen wichtigen Beitrag.