Wer ist Teil des KIC-Projekts?
Warum interdisziplinär arbeiten? Welche Perspektiven bringen wir zusammen?
Menschenzentrierte Technikentwicklung gelingt besonders dann, wenn unterschiedliche Disziplinen und Expertisen zusammenkommen. Im KI-Cockpit Projekt arbeiten Praxis und Wissenschaft eng zusammen, um das Innovationspotenzial kleiner und mittlerer Unternehmen (KMU)mit dem von universitären und angewandten Forschungsinstituten zu verknüpfen.
Konkret greifen drei zentrale Säulen ineinander: (i) Grundlagenforschung, (ii) betriebliche Praxis und (iii) Software-Entwicklung. Nur durch diesen ganzheitlichen Ansatz lassen sich nachhaltige Ergebnisse erzielen. Die Grundlagenforschung entwickelt ein interdisziplinäres Modell zur Einführung von Transparenz und menschlicher Kontrolle bei KI-Anwendungen. Empirisch basiert sie auf drei Feldstudien, in den Hochrisiko-Feldern Personalwesen, Verkehr und Pflege, in denen mithilfe eines partizipativen Ansatzes die spezifischen Bedürfnisse verschiedener Nutzer:innengruppen bei der Anwendung von KI ermittelt werden. Die betriebliche Perspektive wird durch die Praxispartner:innen geprägt. Sie sind nicht nur Gegenstand der Forschung, sondern bringen auch ihre interdisziplinäre Expertise hinsichtlich betriebswirtschaftlicher Umsetzbarkeit und dem praktischen Einsatz von KI-Systemen ein. Diese Stränge leiten die Software-Entwicklung der Open-Source-Software an, welche von Unternehmen genutzt und in ihren Arbeitsablauf integriert werden können.
In Fieldlab A wurde mit einem KI-Cockpit die menschliche Aufsicht auf ein Jobmatching-System realisiert. Dieses System arbeitet sowohl mit klassischen Algorithmen, als auch mit KI und soll passende Bewerber:innen und Anbieter:innen von Stellen zusammenbringen. Das zentrale Risiko ist ein KI-Bias, welcher zu einer unfairen Behandlung unterschiedlicher Gruppen führt (z.B. Geschlecht, Alter, …). Das KI-Cockpit dient hierbei dazu Fairness zu überprüfen und Eingriffe zu ermöglichen.
In Fieldlab B werden Verkehrs- und Parkraumüberwachung über KI automatisiert. Die Interpretationen der Verkehrssituation durch die KI, sind hier Gegenstand der menschlichen Aufsicht. Das zentrale Risiko liegt hier in der Falscherkennung von Verkehrssituationen weshalb das KI-Cockpit hier in die Entscheidungskette eingebunden ist und darüber menschliche Aufsicht und Steuerung realisiert.
In Fieldlab C wurde KI basierte Transkription und Ereigniserkennung, in den transkribierten Texten, in der Pflegedokumentation eines Altenzentrums erprobt. Das Risiko, das häufig sehr diverse Pflegepersonal falsch zu verstehen, stand hierbei im Fokus der menschlichen Aufsicht und Steuerung im KI-Cockpit.
Durch die praxisnahe Projektarbeit konnten wir wertvolle Erkenntnisse darüber gewinnen, wie sich die Vorgaben zu „menschlicher Aufsicht“ aus der europäischen KI-Verordnung in konkreten betrieblichen Anwendungen umsetzen lassen. Diese Erkenntnisse liefern wichtige Impulse für die Implementierung der europäischen KI-Verordnung sowie für die Weiterentwicklung von KI-Normen.
Das Projektkonsortium
Das Projektkonsortium setzt sich aus der Hochschule Aalen – Technik, Wirtschaft und Gesundheit, dem Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart, dem nexus Institut, der Chemistree GmbH, der Starwit Technologies GmbH und der Caritas Dortmund zusammen. Ergänzt wird das Team durch verschiedene Unterauftragnehmer, darunter Awesome Technologies GmbH und das Institut für Innovation und Technik (iit). Ein Beirat aus KI-Expert:innen begleitet und berät das Projekt und trägt dazu bei, die Transfer- und Skalierungsmöglichkeiten der entwickelten Lösungen zu maximieren.
Die Abteilung Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales (BMAS) unterstützt das KI-Cockpit mit einer Förderung von rund 3,5 Millionen Euro.
Zuletzt aktualisiert