Künstliche Intelligenz hält zunehmend Einzug in die Prozesse europäischer Unternehmen. Automatisierung, Datenanalyse, Entscheidungsunterstützung: Die Anwendungsbereiche nehmen zu und eröffnen neue Möglichkeiten, die digitale Transformation zu beschleunigen.
Doch je mehr die KI in Unternehmen und bei digitalen Transaktionen an Bedeutung gewinnt, desto zentraler wird eine andere Frage: die des Vertrauens. Ein Unternehmen kann künstliche Intelligenz nutzen, ohne jedoch bereit zu sein, sich bei sensiblen oder kritischen Prozessen auf sie zu verlassen. Zuverlässigkeit, Datenschutz, menschliche Kontrolle oder auch technologische Abhängigkeit werden dann zu entscheidenden Faktoren.
Diese Herausforderung hinsichtlich des Vertrauens in die KI geht deutlich aus den Antworten der 700 Entscheidungsträger hervor, die im Rahmen des „Europäischen Barometers zum digitalen Vertrauen 2026“ – durchgeführt von Namirial in Zusammenarbeit mit Xerfi – in Frankreich, Deutschland, Italien und Spanien befragt wurden. Die Akzeptanz nimmt zwar zu, spiegelt jedoch nicht immer das Vertrauen in die Technologie wider.
Daher geht es nicht mehr nur darum, inwieweit Unternehmen bereit sind, KI einzuführen, sondern unter welchen Bedingungen sie bereit sind, ihr zu vertrauen.
KI hält Einzug in die Prozesse europäischer Unternehmen
Künstliche Intelligenz ist nicht mehr auf vereinzelte Experimente beschränkt. Sie findet nach und nach ihren Platz in den Unternehmensprozessen, wobei die Akzeptanzraten jedoch je nach Land unterschiedliche Geschwindigkeiten aufweisen.
Frankreich und Spanien weisen mit rund 68 bis 70 % die höchsten Einsatzquoten auf, während Deutschland und Italien bei etwa 54 bis 55 % liegen. Diese Unterschiede zeigen, dass die Integration der KI bereits weit fortgeschritten ist, ohne jedoch in ganz Europa einheitlich voranzuschreiten.
Diese Einführung geht bereits mit konkreten Erwartungen hinsichtlich des Mehrwerts einher, den KI den Unternehmen bieten kann. So steht die Prozessautomatisierung in Frankreich (45 %) und Spanien (52 %) an erster Stelle, während in Deutschland die Dokumentenanalyse (42 %) den ersten Platz einnimmt. Italien zeichnet sich dadurch aus, dass dort der Betrugserkennung (64 %) Priorität eingeräumt wird. Diese Unterschiede verdeutlichen, dass die Anwendungsbereiche und Erwartungen je nach Markt nach wie vor sehr unterschiedlich sind.
Doch die Messung der Akzeptanz reicht nicht aus, um die Reife der Unternehmen im Umgang mit KI zu bewerten. Der Einsatz einer Technologie zur Automatisierung bestimmter Aufgaben oder zur Unterstützung der Mitarbeitenden setzt nicht dasselbe Maß an Vertrauen voraus wie die Einbindung dieser Technologie in die Steuerung sensibler oder kritischer Prozesse.
Einführung und Vertrauen: eine aufschlussreiche Diskrepanz
Die Einführung künstlicher Intelligenz und das Vertrauen in sie sind zwei ganz unterschiedliche Schritte. Je mehr sich KI in Unternehmensprozesse integriert, desto weniger geht es nur noch um ihre Fähigkeit, bestimmte Aufgaben zu verbessern oder zu automatisieren, sondern vielmehr darum, wie viel Verantwortung man ihr zu übertragen bereit ist.
Die Zahlen verdeutlichen diese Diskrepanz. In Frankreich, wo der Einsatz von KI bei etwa 68 % liegt, halten nur 42 % der Entscheidungsträgerinnen und -trägern sie für zuverlässig genug, um sie in kritischen Prozessen einzusetzen. Im Gegensatz dazu weist Deutschland mit rund 55 % zwar eine geringere Akzeptanz auf, verzeichnet aber mit 52 % den höchsten Vertrauensanteil unter den vier untersuchten Ländern.
Auch Italien weist eine geringere Diskrepanz auf, mit einer Akzeptanz von etwa 54 % und einem Vertrauen von 51 %. In Spanien, wo der Einsatz von KI fast 70 % erreicht, geben 53 % der Entscheidungsträgerinnen und -trägern an, bereit zu sein, ihr bei kritischen Prozessen zu vertrauen.
Diese Unterschiede machen deutlich, dass die Reife im Umgang mit KI nicht allein anhand ihrer Akzeptanzrate bewertet werden kann. Je wichtiger ihre Rolle wird, desto mehr andere Kriterien spielen eine Rolle: Zuverlässigkeit der Systeme, Datenqualität, Transparenz oder auch die Fähigkeit, eine menschliche Aufsicht aufrechtzuerhalten. Diese Aspekte stehen im Übrigen im Mittelpunkt des europäischen Ansatzes für vertrauenswürdige KI, insbesondere im Rahmen des KI-Gesetzes.
Die beobachteten Vertrauensniveaus zeigen somit, dass noch mehrere Hindernisse beseitigt werden müssen, bevor KI in den sensibelsten Prozessen in größerem Umfang integriert werden kann.
Was bremst das Vertrauen in KI noch?
In dem Maße, wie künstliche Intelligenz in Unternehmensprozesse integriert wird, verlagern sich die Fragestellungen. Es geht nicht mehr nur darum, zu bewerten, welchen Nutzen KI bringen kann, sondern auch um die Risiken, die mit ihrem Einsatz einhergehen.
Der Datenschutz ist in Frankreich das Hauptanliegen. In Deutschland und Italien sorgen sich Entscheidungsträger eher um die Abhängigkeit von nicht-europäischen Anbietern, während in Spanien der Verlust der menschlichen Kontrolle ein wichtiges Anliegen ist. Diese Unterschiede zeigen deutlich, dass das Vertrauen in KI nicht auf einem einzigen Faktor beruht: Es hängt sowohl von der Kontrolle über die Daten, den eingesetzten Technologien als auch vom Ausmaß der Kontrolle ab, die das Unternehmen behält.
Über diese nationalen Unterschiede hinaus finden sich bestimmte Bedenken in mehreren Märkten wieder. Datenschutz, Verlust der menschlichen Kontrolle, Abhängigkeit von nicht-europäischen Anbietern, Erklärbarkeit von Entscheidungen sowie die Einhaltung gesetzlicher Vorschriften prägen die Fragen der Entscheidungsträgerinnen und -träger. Letzteres gehört insbesondere zu den vier Hauptanliegen in jedem der untersuchten Länder, was bestätigt, dass das Vertrauen in KI ebenso sehr von ihren Anwendungsbereichen abhängt wie von der Fähigkeit der Unternehmen, diese zu steuern.
Die Frage der Kontrolle gewinnt zudem an Bedeutung, je autonomer die Systeme werden. Ihre Funktionsweise zu verstehen, ihre Handlungen zu überwachen und bei Bedarf einzugreifen, wird unerlässlich, um zu verhindern, dass eine zunehmende Automatisierung zu einem Kontrollverlust oder sogar zu erhöhten Risiken führt.
Diese Bedenken führen dazu, dass man über die reine technologische Leistung hinausgeht und sich mit dem Rahmen befasst, in dem KI eingesetzt wird. Genau hier werden die Voraussetzungen für eine vertrauenswürdige KI geschaffen.
Daten, Transparenz, Kontrolle: Die Voraussetzungen für eine vertrauenswürdige KI
Das Vertrauen in künstliche Intelligenz hängt nicht allein von ihrer Leistungsfähigkeit ab. Damit ein Unternehmen sie nachhaltig in seine Prozesse integrieren kann, muss es auch in der Lage sein zu verstehen, wie sie funktioniert, welche Daten sie nutzt und unter welchen Bedingungen sie überwacht werden kann.
Die Daten-Governance bildet eine erste Säule. Die Qualität, die Herkunft, der Schutz und die Bedingungen, unter denen die Daten verarbeitet werden, beeinflussen direkt die Zuverlässigkeit der KI-Systeme. Eine leistungsstarke Technologie kann kein dauerhaftes Vertrauen schaffen, wenn das Unternehmen die Daten, auf denen sie basiert, nicht unter Kontrolle hat.
Auch Transparenz spielt eine wesentliche Rolle. Die Ermittlung der Fähigkeiten und Grenzen eines Systems, das Verständnis seiner Rolle in einem Prozess und die Gewährleistung einer ausreichenden Rückverfolgbarkeit ermöglichen eine bessere Steuerung seiner Nutzung. Diese Logik steht im Mittelpunkt des europäischen Ansatzes: Für KI-Systeme mit hohem Risiko sieht der europäische Rahmen durch den KI-Act insbesondere Anforderungen hinsichtlich Datenqualität, Transparenz, Rückverfolgbarkeit, Robustheit und Cybersicherheit vor.
Schließlich bedeutet Automatisierung nicht zwangsläufig den Verzicht auf menschliches Eingreifen. Je stärker die KI in sensible Entscheidungen eingreift, desto wichtiger wird die Fähigkeit, ihre Funktionsweise zu überwachen, ihre Ergebnisse zu hinterfragen und im Falle von Problemen einzugreifen. Die menschliche Kontrolle gehört übrigens zu den im KI-Gesetz vorgesehenen Anforderungen für Systeme mit hohem Risiko.
Vertrauen beruht somit ebenso sehr auf der Leistungsfähigkeit der KI wie auf der Fähigkeit des Unternehmens, deren Einsatz zu steuern und die Kontrolle über seine Prozesse zu behalten.
KI und Souveränität: Die Frage der technologischen Abhängigkeit
Das Vertrauen in künstliche Intelligenz wirft auch eine strategischere Frage auf: die der technologischen Abhängigkeit. KI-Systeme stützen sich auf eine Reihe von Ressourcen: Modelle, Cloud-Infrastrukturen, Rechenkapazitäten und Daten, deren Kontrolle entscheidend werden kann, wenn sie in sensible oder risikoreiche Prozesse integriert werden.
Diese Sorge ist besonders in Deutschland und Italien deutlich zu spüren, wo die Abhängigkeit von außereuropäischen Anbietern zu den wichtigsten Bedenken im Zusammenhang mit KI zählt. Die Wahl einer Lösung hängt daher nicht mehr allein von ihrer Leistungsfähigkeit ab: Die Herkunft des Anbieters, die Bedingungen der Datenverarbeitung oder auch die Fähigkeit, die Kontrolle über die eigene technologische Umgebung zu behalten, spielen nun ebenfalls eine Rolle.
Diese Frage geht über die individuellen Strategien einzelner Unternehmen hinaus. Die Europäische Union ist derzeit bestrebt, ihre Abhängigkeiten bei kritischen digitalen Technologien, insbesondere in den Bereichen Cloud und KI, zu verringern. Im Juni 2026 hat die Kommission unter anderem den „Cloud and AI Development Act“ vorgeschlagen, der einen europäischen Rahmen für die Bewertung der Souveränität in den Bereichen Cloud und KI vorsieht.
Für ein Unternehmen bedeutet Souveränität nicht zwangsläufig, vollständige technologische Autonomie anzustreben. Vielmehr geht es darum, seine Abhängigkeiten einschätzen zu können, die Kontrolle über seine Daten zu behalten und ausreichend Wahlmöglichkeiten sowie Kontrolle über die Technologien zu bewahren, denen es seine Prozesse anvertraut.
In dem Maße, wie KI an Bedeutung gewinnt, stellt sich daher auch die Frage nach dem Grad der akzeptablen Abhängigkeit. Dies ist ein besonders wichtiges Thema, wenn es nicht mehr nur darum geht, bestimmte Aufgaben zu unterstützen, sondern künstliche Intelligenz in kritische und strategische Prozesse zu integrieren.
Welchen Platz nimmt KI in kritischen Prozessen ein?
Je stärker künstliche Intelligenz in sensible Prozesse eingreift, desto höher werden die Anforderungen. Ein Unternehmen erwartet von einem Tool, das zur Unterstützung beim Verfassen von Inhalten eingesetzt wird, nicht dieselben Garantien wie von einem System, das an einer Entscheidung, einer digitalen Transaktion oder einem Prozess beteiligt ist, der direkte Auswirkungen auf das Unternehmen oder seiner Kundschaft hat.
Das erwartete Maß an Vertrauen muss sich daher entsprechend dem Risikoniveau entwickeln. Je gravierender die potenziellen Folgen eines Fehlers sind, desto genauer muss das Unternehmen definieren, was die KI autonom leisten darf und in welchen Situationen ein menschliches Eingreifen weiterhin erforderlich ist.
Dieses Bedürfnis nach Kontrolle gewinnt umso mehr an Bedeutung, je mehr Unternehmen schrittweise von der Experimentierphase zu stärker integrierten Anwendungsfällen übergehen. Aktuelle Studien zur Einführung von KI in Unternehmen unterstreichen genau diese wachsende Bedeutung von Governance, Verantwortlichkeit und menschlicher Aufsicht, wenn KI immer näher an die Kerngeschäftsaktivitäten rückt.
Die eigentliche Herausforderung besteht daher darin, das Maß an Kontrolle parallel zur Nutzung weiterzuentwickeln. Denn um KI nachhaltig in kritische Prozesse zu integrieren, müssen Unternehmen über die bloße Einführung der Technologie hinausgehen und einen Rahmen schaffen, der genügend Vertrauen weckt, um den Einsatz in großem Maßstab zu ermöglichen.
Vertrauen aufbauen, um von der Einführung zur Reife zu gelangen
In dem Maße, wie sich die Anwendungsbereiche der künstlichen Intelligenz weiterentwickeln und strategischen Aktivitäten annähern, wird die Fähigkeit, die Technologie zu steuern, ebenso wichtig wie ihre Leistungsfähigkeit. Diese Entwicklung lässt sich in der europäischen Unternehmenslandschaft besonders deutlich beobachten, wo der Vormarsch der KI nach wie vor mit Lücken in den Bereichen Governance und Risikokontrolle einhergeht.
Der Übergang vom Experimentieren zu einer nachhaltigen Nutzung setzt daher die Erfüllung mehrerer Voraussetzungen voraus: die Kontrolle über die verwendeten Daten, eine klare Definition der Verantwortlichkeiten, die Anpassung des Ausmaßes der menschlichen Aufsicht an die Risiken sowie die Gewährleistung, dass die Systeme ausreichend transparent und kontrollierbar bleiben. Reife lässt sich somit nicht mehr nur an der Anzahl der eingesetzten Anwendungen messen, sondern an der Fähigkeit des Unternehmens, diese in einen kontrollierten Vertrauensrahmen zu integrieren.
Diese Entwicklung verändert auch die Herangehensweise an Innovation. Governance, Sicherheit und Kontrolle sind nicht unbedingt Hindernisse für die Entwicklung der KI: Im Gegenteil, sie können es ermöglichen, ihren Einsatz schrittweise auf Prozesse auszuweiten, in denen die Anforderungen an die Zuverlässigkeit höher sind. Unternehmen, denen der skalierbare Einsatz gelingt, verbinden ihre Implementierungen in der Regel mit Investitionen in Daten, Governance und die Schulung ihrer Teams.
Es geht also nicht mehr nur darum, ob Unternehmen künstliche Intelligenz einführen werden. Vielmehr geht es nun darum, wie sie die notwendigen Voraussetzungen schaffen können, um ihr mehr Vertrauen zu schenken, ohne die Kontrolle über ihre Daten, ihre Entscheidungen und ihre Prozesse zu verlieren und gleichzeitig an Leistung zu gewinnen.
Um mehr zu erfahren und detaillierte Daten zur Einführung von KI, zum Vertrauensniveau und zu den Bedenken von Entscheidungsträgern in Frankreich, Deutschland, Italien und Spanien zu erhalten, lesen Sie das „Europäische Barometer für digitales Vertrauen 2026“ von Namirial.
