Fünf Jahre Forschung zu Methoden und Tools für die verantwortliche und
menschenzentrierte KI-Gestaltung
Wie kann Künstliche Intelligenz Menschen im Arbeitsalltag unterstützen, ohne ihnen
Entscheidungen abzunehmen? Dieser Frage ist das Kompetenzzentrum KARL in den
vergangenen fünf Jahren gemeinsam mit Unternehmen und Forschungspartnern
nachgegangen. Zum Abschluss des vom Bundesministerium für Forschung, Technologie
und Raumfahrt geförderten Projekts ziehen die Beteiligten Bilanz: Zahlreiche
Demonstratoren, praxisnahe Anwendungen und neue Methoden zeigen, wie
menschenzentrierte KI in Unternehmen eingesetzt werden kann – von der
Verkehrssteuerung bis zur Produktion.
Unfall am Durlacher Tor. Eine Bahn steht quer. Der Verkehr stockt. Anschlüsse brechen weg. In
der Leitstelle des Karlsruher Verkehrsverbunds laufen die Telefone heiß. Zwei bis drei Minuten
bleiben Disponent:innen, um zu entscheiden: Umleitung? Kurzwende? Anschluss halten? Jede
Entscheidung wirkt sich auf Tausende Fahrgäste aus. Künftig soll sie dabei eine Künstliche
Intelligenz unterstützen.
Ein digitaler Vorschlagsassistent analysiert historische Betriebsdaten, simuliert mögliche
Maßnahmen und zeigt an, was passieren würde, wenn welche Option gewählt wird. Die
Entscheidung bleibt beim Menschen. Aber er wird bei der Entscheidungsfindung unterstützt.
Der Prototyp wurde im Rahmen des Kompetenzzentrums KARL entwickelt – gemeinsam mit INIT,
einem weltweit führenden Anbieter von IT-Lösungen für den öffentlichen Nahverkehr.
Inzwischen wird die Lösung aktiv internationalen Verkehrsverbünden angeboten. Erste Anfragen
kommen bereits.
Was wie ein einzelnes Praxisprojekt wirkt, ist genaugenommen ein Brennglas für eine größere
Bewegung. Denn mit diesem Use Case endet ein fünfjähriges Förderprojekt. Gleichzeitig beginnt
etwas Neues.
Zwei Jahre vor ChatGPT
Als KARL im April 2021 startete, gab es kein ChatGPT. Keine breite Sprachmodell-Welle. Keine
öffentliche Debatte über „Prompten“ und „Halluzinationen“. Die Projektpartner hatten dennoch
Themen auf der Agenda, die heute aktueller kaum sein könnten: Transparenz, Erklärbarkeit,
Vertrauen, Mensch-KI-Kooperation. „Wir waren weitsichtig“, sagt Projektleiter Steffen Kinkel,
Leiter des Instituts für Lernen und Innovation in Netzwerken (ILIN)an der Hochschule Karlsruhe.
„Das Thema Erklärbarkeit von KI ist mit dem Aufkommen der großen Sprachmodelle noch viel
wichtiger geworden.“
KI-Systeme liefern Ergebnisse, aber oft ohne nachvollziehbaren Weg dorthin. Für
Anwender:innen, die keine IT-Expert:innen sind, entsteht eine Blackbox. KARL hat hier
methodisch angesetzt: Wie können Ergebnisse verständlich gemacht werden? Wie kann
Vertrauen entstehen, ohne blindes Vertrauen zu fördern? Denn darin liegt eine doppelte Gefahr:
Zu viel Misstrauen und die Technologie wird blockiert. Zu viel Vertrauen und Fehler werden
ungeprüft übernommen. „Wir brauchen eine Balance“, sagt Kinkel. „Kein Overtrust. Aber auch
keine Verweigerung.“
Human in the Loop
Dieses Spannungsfeld hat das Projekt durchzogen. KI nicht als Ersatz, sondern als
Assistenzsystem. Nicht als Automatismus, sondern als Kooperationspartner. Das Leitmotiv:
Menschenzentrierte KI-Gestaltung oder neudeutsch Human in the Loop.
Gerade beim INIT-Use-Case war das entscheidend. In den ersten Workshops stand die Sorge im
Raum, man wolle Arbeitsplätze ersetzen. Stattdessen ging es darum, Stresssituationen besser
handhabbar zu machen. Entscheidungen fundierter zu treffen. Neue Mitarbeitende schneller
einzuarbeiten. Heute gilt das Projekt als eines der gelungensten Beispiele aus KARL. Es ist
technisch robust und anschlussfähig. Und es zeigt, was das Kompetenzzentrum leisten wollte:
reale Orte des Erlebens schaffen.
Verschiedene Demonstratoren und Tools – online zugänglich
KARL hat nicht nur Verkehrsalgorithmen hervorgebracht. Verschiedene Online-Demonstratoren
und Tools bleiben zugänglich. Darunter ein KI-gestützter Literaturrecherche-Bot mit
nachvollziehbarer semantischer Suche. Ein Lernsystem, das Lehrmaterialien kuratiert erweitert.
Ein Online-Kurs, der spielerisch über die Funktionsweisen und Grenzen von Sprachmodellen
informiert. Eine Auswahlhilfe, die Unternehmen online dabei unterstützt, passende
Anwendungsfälle für KI-Anwendungen zu finden. Ein KI-Readiness-Check zur Bewertung der
technischen und organisatorischen KI-Bereitschaft von Unternehmen. Ein KI
Kompetenzbenchmark zur Identifikation der für die erfolgreiche Einführung und Nutzung von KI
in Unternehmen erforderlichen Kompetenzen. Und reale Demonstratoren aus der Produktion in
der Lernfabrik des wbk-Instituts des KIT – von bildbasierter Qualitätskontrolle bis hin zu KI
unterstützter Roboterprogrammierung. Das Ziel war nie, die perfekte Lösung zu liefern. Sondern
zu zeigen, was möglich und was nötig ist.
Der Mittelstand schläft nicht
Eine telefonische Umfrage unter mehr als 500 Unternehmen zeichnete ein differenziertes Bild:
40 Prozent nutzen bereits regelmäßig KI. Zwei Jahre davor waren es etwa lediglich ein Drittel
davon. „Die Dringlichkeit ist angekommen“, sagt Steffen Kinkel.
Gleichzeitig offenbart die Studie eine riskante Praxis: In rund 70 Prozent der Unternehmen
dürfen Mitarbeitende offene Sprachmodelle nutzen, aber nur die Hälfte der Unternehmen hat
klare Nutzungsregeln definiert. Datenschutz, Know-how-Abfluss, unsichere Datenräume – oft
ungelöst.
Der Mittelstand will handeln. Er ringt jedoch mit den richtigen Anwendungsfällen. „Viele fragen
uns: Sagt uns doch, was wir mit KI machen sollen“, so Steffen Kinkel. „Aber so funktioniert es
nicht. KI beginnt nicht bei der Technologie. Sie beginnt bei Prozessen, bei Datenqualität und bei
der ehrlichen Analyse repetitiver Aufgaben, die sich wirklich automatisieren lassen.“
Daten sind nicht gleich Daten
Einer der größten Denkfehler: „Wir haben doch Millionen Datensätze.“ Menge ersetzt keine
Struktur. „Unaufbereitete Daten mit personenbezogenen Attributen sind unbrauchbar und
mitunter rechtlich problematisch. In der Qualitätskontrolle etwa können Millionen fehlerfreier
Fälle vorliegen, aber nur wenige dokumentierte Fehler. Für ein lernendes System ist das zu
wenig.“ KI braucht kuratierte, geeignete Trainingsdaten und realistische Erwartungen. „Es geht
nicht superschnell und super einfach“, betont Steffen Kinkel. „Das ist die Illusion.“
Die eigentliche Baustelle: Kompetenzen
Über 200 Unternehmen bewerteten im Projekt ein Modell mit 35 KI-relevanten
Einzelkompetenzen. Das Ergebnis: Die Bedeutung wird hoch eingeschätzt. Die personelle
Ausstattung ist deutlich geringer. Vor allem werden die technischen Kompetenzen überschätzt
und die organisatorischen unterschätzt: Change-Management. Projektsteuerung.
Moderationsfähigkeit. Kritisches Hinterfragen von Ergebnissen. „KI-Einführung ist immer ein
Transformationsprozess, kein IT-Update.“
Wer Mitarbeitende nicht mitnimmt, riskiert Stillstand – etwa, wenn Betriebsräte erst spät
eingebunden werden und Projekte stoppen. Kompetenzentwicklung sei kein Vormittagskurs,
betont Steffen Kinkel. Es sei ein Prozess aus Anwenden, Wiederholen, Lernen. Und der braucht
Zeit.
Und jetzt?
Die Förderperiode endet im März 2026. Knapp zehn Millionen Euro Fördermittel flossen in fünf
Jahren in das Netzwerk aus neun Forschungs- und Transferpartnern sowie elf Unternehmen.
Was bleibt? Das Netzwerk. Die Demonstratoren. Die Online-Plattform. Eine Springer
Buchpublikation mit zentralen Erkenntnissen und ein Kernteam, das Anfragen weiter koordiniert
und im Netzwerk verteilt. Zudem laufen Gespräche über Anschlussprojekte. „Es wäre
jammerschade, wenn hier nichts bleibt“, sagt Steffen Kinkel. „Wir haben in fünf Jahren eine
Marke aufgebaut.“
Wer steckt hinter KARL?
KARL ist eines von aktuell 13 regionalen Kompetenzzentren und zwei wissenschaftlichen
Begleitprojekten, das die Auswirkungen von Künstlicher Intelligenz (KI) auf die Lern- und
Arbeitswelt untersucht. Ziel von KARL ist es, menschenzentrierte, transparente, lernförderliche
und KI-unterstützte Arbeits- und Lernsysteme zu konzipieren und in konkreten
Praxisanwendungen vorzeigbar zu machen.
Die Region Karlsruhe mit dem nationalen Digital Hub für angewandte KI und einem der
führenden IT-Cluster in Europa bietet dafür großes Entwicklungspotenzial. Konsortialführer ist
die Hochschule Karlsruhe.
Zum Projektkonsortium gehören neben neun Forschungs- und Transferpartnern auch elf
regionale Unternehmen sowie das CyberForum, das eine zentrale Rolle in der
Öffentlichkeitsarbeit, im Community-Management sowie im Nachhaltigkeitskonzept
übernimmt.
Bis März 2026 wurde KARL vom Bundesministerium für Forschung, Technologie und Raumfahrt
(BMFTR) mit knapp zehn Millionen Euro gefördert.
Pressekontakt CyberForum e.V.
Ariane Lindemann
Marketing
T +49 (0) 721/602 897-652
KI entscheidet nicht allein hinzugefügt von Presse am
Alle Beiträge von Presse →
