Wie KI Verantwortung neu definiert

Künstliche Intelligenz (KI) verändert derzeit nahezu alle Bereiche der Wirtschaft und Gesellschaft – von der Automatisierung alltäglicher Aufgaben bis hin zu strategischen Entscheidungsprozessen.

Unternehmen stehen vor der Herausforderung, Chancen und Risiken dieser Technologie gleichermaßen zu verstehen und verantwortungsvoll zu nutzen. Dabei geht es längst nicht mehr nur um Effizienz, sondern auch um Fragen der Transparenz, Ethik und Zukunftsfähigkeit.

Im Gespräch mit Ulrich Parthier verrät Lumir Boureanu, Geschäftsführer von compacer, was man gegen KI-Halluzinationen tun kann, warum KI nichts mit Wissen zu tun hat und weshalb es in Zukunft trotz aller Herausforderungen nicht mehr ohne KI gehen wird.

Ulrich Parthier: Immer öfter sieht man sich heute mit dem Einsatz von KI konfrontiert – sei es bei der Internetrecherche, der Nutzung von Softwarelösungen oder Analyse-Tools. Wo sehen Sie derzeit den größten Nutzen von KI?

Lumir Boureanu: KI ist dort am wertvollsten, wo die menschlichen Kapazitäten an ihre Grenzen stoßen, beispielsweise bei der Mustererkennung. Hier kann KI Unsichtbares sichtbar machen. Oder bei extrem voluminösen Aufgabenstellungen, etwa wenn große Datenmengen oder Texte – z.B. komplexe Verträge – analysiert werden. Spürbar sind die positiven Effekte von KI aber auch bei repetitiven Tätigkeiten, beispielsweise der Erstellung von Protokollen oder dem Zusammenfassen bzw. Übersetzen von Texten.

Kurz gesagt, der größte Nutzen von KI ist nicht, dass sie Dinge kann, die wir nicht können. Vielmehr schafft sie Freiraum für Dinge, die nur wir können: kreativ und empathisch sein, strategisch zu denken. Klar hilft uns KI bei der Erstellung von Prognosen und sie lernt auch dazu, aber KI ist kein Ersatz für das Wissensmanagement der Unternehmen. Das muss man unbedingt unterscheiden.

Ulrich Parthier: Das klingt alles gut. Dennoch gibt es Bedenken, was den Umgang mit KI betrifft.

Lumir Boureanu: Das stimmt. KI ist kein Selbstzweck, sondern ein Werkzeug für nachhaltigen Geschäftserfolg – aber nur, wenn die Unternehmen jetzt die richtigen Weichen stellen. Man muss abwägen, welche Risiken man im Umgang mit KI eingehen kann und welche nicht. Auch die Datenvalidität spielt dabei eine wichtige Rolle. Für entscheidend halte ich aber, dass die Unternehmen bei Ihren KI-Projekten die Menschen mitnehmen müssen, insbesondere deshalb, weil eine zunehmende Change Müdigkeit zu beobachten ist. Man muss die Ängste der Menschen ernst nehmen und darf nicht ignorieren, dass sich der ein oder andere von KI durchaus überfordert fühlt.

Ulrich Parthier: Und wenn KI auch noch zu halluzinieren beginnt und man sich nicht sicher ist, ob stimmt, was sie sagt – verstärkt das nicht noch die Ängste der Menschen?

Lumir Boureanu: Klar, denn sind wir mal ehrlich: Agentic AI ist ein bisschen wie`Stille Post´. Man gibt vorne etwas in das System rein und hinten kommt etwas raus. Was dazwischen passiert, ist nicht immer nachvollziehbar und das ist problematisch. Deshalb empfehle ich das 4-Augen-Prinzip: Die KI schlägt etwas vor und der Mensch validiert. Damit dieses Prinzip erfolgreich ist, sollte man KI in der Breite nutzen und sich auf den Menschen verlassen, wenn es in die Tiefe geht. Derartige Guidelines helfen, KI bestmöglich einzusetzen.

Ulrich Parthier: Erklären Sie uns bitte den Unterschied, zwischen einer KI, die arbeitet und entscheidet und dem Agieren eines Menschen.

Lumir Boureanu: Ganz wichtig: KI verfügt nicht über `Wissen´ im menschlichen Sinne. Ein Beispiel: Wenn die KI sagt, dass Wasser bei 100 Grad kocht, dann hat KI diese Aussage millionenfach in Texten gesehen. Wenn der Mensch sagt, dass Wasser bei 100 Grad kocht, versteht er den physikalischen Zusammenhang. Also – KI versteht nicht, was sie sagt. Sie erkennt lediglich Muster, kann die statistisch wahrscheinlichste Antwort ermitteln, kann aber nicht beurteilen, ob diese wahr oder falsch ist. Sehen Sie den Unterschied? Und weil die KI auf Informationen, sprich Daten, zurückgreift ist es so entscheidend, dass diese Daten valide sind, denn die KI ist nicht in der Lage ihre Fehlerhaftigkeit zu erkennen und korrigieren.

Das vollständige Interview lesen Sie auf it-daily.net

Die it verlag für Informationstechnik GmbH publiziert das Magazin it management mit dem Supplement it security. Im Online-Bereich stehen mit der News-Portal www.it-daily.net und diversen Newslettern wertvolle Informationsquellen für IT Professionals zur Verfügung. Mit eBooks, Whitepapern und Konferenzen zu Themen der Enterprise IT rundet der Verlag sein Angebot zu News aus der IT-Welt ab.

www.it-daily.net