Wenn Maschinen lernen

Künstliche Intelligenz (KI) kommt in der Industrie längst nicht mehr nur in der Bildverarbeitung oder in Chatbots zum Einsatz. Vielmehr übernimmt sie wesentliche Steuerungsfunktionen in Entwicklungs- und Fertigungsprozessen, optimiert Lieferketten und trifft autonome Entscheidungen, die Millioneninvestitionen, Produkthaftung und sogar Menschenleben betreffen können.

Mit dem wachsenden Einfluss von KI müssen Unternehmen Compliance-Risiken nicht nur erkennen, sondern aktiv managen – eine Aufgabe, die über den Unternehmenserfolg mitentscheidet. Denn regulatorische Fehltritte führen nicht nur zu Verzögerungen, sondern können Marktzugänge blockieren, Kundenproteste provozieren und massive Strafzahlungen nach sich ziehen.

Die "unsichtbare Innovation" in der Werkhalle

KI ist also nicht mehr nur ein Add-on, sondern übernimmt immer mehr Aufgaben und wird damit zu einem zentralen Element. Die KI-Anwendung wird damit zu einem eigenständigen Produkt, das in kurzen Zyklen weiterentwickelt wird, während die zugehörige mechanische Komponente mitunter im gleichen Zeitraum kaum Veränderungen erfährt. Dies erfordert für die KI-Anwendung ein eigenes Risikomanagement, eine lebenszyklusweite Dokumentation und regulatorische Zulassungen.

Wie das auf dem Shopfloor aussieht, zeigt folgendes Beispiel: Eine CNC-Fräsmaschine arbeitet 30 Prozent schneller, aber nicht durch neue Motoren, sondern durch ein KI-Update. Die technische Entwicklung der Hardware kann mit der Geschwindigkeit der agilen Softwareentwicklungszyklen nicht mithalten. Damit entsteht ein neues Problem: Während ein Zahnrad 20 Jahre lang seine Spezifikation erfüllt, lernt eine KI ständig dazu – und entwickelt dabei eine Eigendynamik, die im ursprünglichen Zertifizierungsprozess in dieser Form gar nicht vorgesehen oder dokumentiert war.

Während klassische Industrieroboter starren Programmcodes folgen, agiert KI dynamisch und selbstlernend – oft in einer Weise, die selbst für die Entwickler kaum nachvollziehbar ist. Dieses sogenannte Black-Box-Phänomen stellt Unternehmen vor ein massives Problem: Wie kann die von Regulatoren, Kunden und Versicherern geforderte Transparenz und Nachvollziehbarkeit der oft undurchsichtigen Entscheidungsprozesse von KI gewährleistet werden?

Risiken in der neuen Produktlogik

Wie unterschiedlich sich die Risikoprofile entwickeln, zeigt die folgende Tabelle:

Besonders kritisch wird es, wenn eine KI durch selbstoptimierende Algorithmen unerwartete Verhaltensweisen entwickelt. Reduziert die KI beispielsweise in der Pharmaproduktion den Materialausschuss, indem sie Temperaturtoleranzen missachtet, kann dies schwerwiegende Folgen für die Produktqualität haben. Ebenso gefährlich sind so genannte Data-Drift-Effekte: Sensoren unterliegen einem natürlichen Verschleiß, doch wenn eine KI diesen schleichenden Qualitätsverlust nicht erkennt, kann es zu falschen Entscheidungen über Materialstärken kommen.

Hinzu kommen KI-immanente Risiken wie Datenschutzbedenken, ethische Abwägungen bei sensiblen Entscheidungen und mögliche Verzerrungen in den Trainingsdaten. Ohne eine umfassende und lückenlose Dokumentation können diese Risiken nicht wirksam kontrolliert werden.

Mit dem Digital Twin auf der sicheren Seite

Die Lösung ist ein strukturiertes KI-Risikomanagement: Updates dürfen nicht ohne eingehende Prüfung erfolgen – ähnlich wie in der Pharmaindustrie, wo jede Rezepturänderung eine neue Zulassung erfordert. Das optimale Werkzeug dafür ist ein flexibles Product Lifecycle Management (PLM), das in Verbindung mit einem Digital Twin die Basis für einen robusten Compliance-Maßnahmenplan bildet.

Moderne PLM-Systeme bieten weit mehr Features als klassische CAD-Verwaltungsplattformen. In ihrem Anwendungsspektrum sind sie darauf ausgelegt, Informationen für einen Digital Twin so bereitzustellen, dass nicht nur mechanische Eigenschaften, sondern auch Algorithmus-Updates, Trainingsdaten und Entscheidungspfade von KI-Anwendungen dokumentiert werden können. Dies ermöglicht u.a. eine umfassende Versionierung von

• Trainingsdatensätzen zur Sicherung von Herkunft und Aktualität
• Entscheidungsbäume zur Nachvollziehbarkeit kritischer Inferenzprozesse, d.h. wenn aus Daten oder Beobachtungen Schlussfolgerungen gezogen werden
• Simulationsergebnisse von Extremszenarien zur Früherkennung von Risiken

Damit können Unternehmen KI-gestützte Inspektionssysteme mit einem "Algorithmus-Lifecycle" ausstatten, der jede Änderung dokumentiert und bei Bedarf ein Zurücksetzen auf stabile Vorgängerversionen ermöglicht.

Darüber hinaus kann das PLM Compliance-Checks in Echtzeit unterstützen, indem es Live-Datenströme aus der Produktion nutzt, um sicherzustellen, dass KI-Systeme stets innerhalb der zulässigen Sicherheitsgrenzen operieren. Wird eine Abweichung festgestellt, greifen automatische Rollback-Mechanismen, die das System auf eine zuvor getestete Version zurücksetzen.

Fazit: Compliance als Wettbewerbsvorteil begreifen

Regulierungen wie der EU AI Act, branchenspezifische Vorschriften und neue Gesetze zur Produkthaftung erfordern einen erhöhten Dokumentationsaufwand. Ein Blick in die Praxis zeigt jedoch: Wer frühzeitig in transparente Datenarchitekturen, digitale Compliance-Mechanismen und automatisierte Dokumentation investiert, kann regulatorische Anforderungen nicht nur erfüllen, sondern als strategisches Differenzierungsmerkmal nutzen. Der Zielkonflikt zwischen Innovationsgeschwindigkeit und Regulierung bzw. Bürokratie wird so aufgelöst. Compliance wird vom Kostentreiber zum zentralen Faktor für Marktvertrauen und Innovationskraft. Letztlich werden die Unternehmen, die KI nicht nur technisch, sondern auch regulatorisch beherrschen, langfristig die Marktführerschaft behalten bzw. erlangen.