5 Minuten Lesezeit 23 April 2024
Eine Figur schlendert durch einen neonbeleuchteten, von einer Matrix beleuchteten Gang.

KI-Einsatz im Unternehmen: Welche Rolle spielt die Compliance?

Andreas Pyrcek
Von Andreas Pyrcek

EY Global Forensics Integrity, Compliance & Ethics Leader; Global Forensics Sector Leader, Technology, Media & Entertainment and Telecommunications, EY GmbH & Co. KG Wirtschaftsprüfungsgesellschaft | Deutschland

Erfahrener Partner für proaktive Compliance-, Ethik- und Integritätsfragen. Darüber hinaus steht er bei der Reaktion auf Betrug, Bestechung und Korruption weltweit, beratend zur Seite.

5 Minuten Lesezeit 23 April 2024
Verwandte Themen Forensic & Integrity Services Consulting Risikomanagement Wirtschaftsprüfung und Accounting-Beratung
Gefällt mir

Weitere Materialien

Neue Ansätze für ein wirksames Compliance-Management in Zeiten künstlicher Intelligenz (KI) – Risiken, Chancen und Best Practices

Künstliche Intelligenz (KI, AI) ist eine disruptive Technologie, die das Potenzial hat, Unternehmen in allen Branchen zu transformieren. KI-Systeme können eingesetzt werden, um Kunden zu beraten, Prozesse zu automatisieren, Entscheidungen zu treffen und Produkte oder Dienstleistungen zu personalisieren.

Der Einsatz von KI birgt neben umfassenden Chancen jedoch auch Risiken, insbesondere in Bezug auf die Compliance und das Compliance-Management. So können KI-Systeme beispielsweise diskriminierend, unfair oder auch unzuverlässig sein. Sie können sogar dazu verwendet werden, Gesetze und Vorschriften zu umgehen – sofern es die Programmierung oder der Algorithmus so vorsehen. Verlässt man sich ohne Qualitätsprüfung auf KI-generierte Ergebnisse, kann dies außerdem zu Fehleinschätzungen und Entscheidungen treffen, die nicht im Sinne der Stakeholder sind.

Die Compliance-Funktion ist mit dafür verantwortlich, die Einhaltung von Gesetzen, Vorschriften und internen Richtlinien zu gewährleisten und eine gute Kultur im Unternehmen zu schaffen. Sie sollte daher bei der Sicherstellung des rechtskonformen und ethischen Einsatzes von KI eine wichtige Rolle spielen.

Ethik- und Compliance-Risiken für Unternehmen

KI-Systeme können die Compliance auf verschiedene Weise gefährden. Zu den größten Risiken gehören die folgenden:

  • Diskriminierung: KI-Systeme können diskriminierend sein, wenn sie auf der Grundlage von Daten trainiert werden, die selbst diskriminierend sind. Dies kann dazu führen, dass sie Entscheidungen treffen, die nicht mit den geltenden Gesetzen und Vorschriften vereinbar sind.
  • Mangelnde Fairness: KI-Systeme berücksichtigen eventuell nicht das große Ganze in der gebotenen Ausgewogenheit. Gerade bei emotionalen Themen kann es je nach den zugrunde gelegten Daten sein, dass bestimmte Personengruppen benachteiligt werden.
  • Unzuverlässigkeit: KI-Systeme können unzuverlässig sein, wenn sie auf der Grundlage von Daten trainiert werden, die unvollständig oder fehlerhaft sind. Dies kann dazu führen, dass sie falsche Entscheidungen treffen.
  • Umgehung von Gesetzen und Vorschriften: KI-Systeme können eingesetzt werden, um Gesetze und Vorschriften zu umgehen. Dies kann beispielsweise durch die Verwendung solcher Systeme zur Erstellung gefälschter Dokumente oder zur Automatisierung illegaler Aktivitäten geschehen.
EY AI Framework

EY AI Framework: Die Grafik zeigt Elemente des EY Trusted AI Framework. Dieses strategische Tool bietet Unternehmen Unterstützung bei Entwicklung, Bewertung und Kontrolle zuverlässiger, sicherer und ethischer KI-Systeme.

Best Practices

Unternehmen können die Ethik- und Compliance-Risiken des KI-Einsatzes minimieren, indem sie folgende Best Practices beachten:

  • KI-Systeme verständlich machen: Unternehmen sollten sicherstellen, dass KI-Systeme verständlich sind, damit Risiken identifiziert und bewertet werden können.
  • Transparenz gewährleisten: Unternehmen sollten einen transparenten Einsatz von KI-Systemen sicherstellen. Insbesondere sollte offengelegt werden, welche Daten zum Trainieren der eingesetzten KI-Systeme genutzt wurden und welche Algorithmen sie verwenden.
  • Menschliche Kontrolle: Unternehmen sollten eine menschliche Kontrolle der KI-Systeme gewährleisten. Menschen sollten also in der Lage sein, die KI-Systeme zu verstehen und zu bewerten, und Unternehmen sollten gewährleisten, dass ihre KI-Systeme von Menschen kontrolliert und bei Bedarf auch überschrieben werden können.
  • Kontinuierliches Lernen: Unternehmen und ihre Mitarbeitenden sollten kontinuierlich lernen und sich weiterentwickeln, um die Compliance-Risiken des KI-Einsatzes zu minimieren. Dazu gehört die regelmäßige Überprüfung der KI-Systeme und der Compliance-Vorgaben.

Die Rolle der Compliance-Funktion

Die Compliance-Funktion ist in Unternehmen dafür verantwortlich, dass geltende Gesetze und Vorschriften eingehalten werden. Beim Einsatz von KI-Systemen könnte dies die folgenden Aufgaben umfassen:

  • Identifikation und Bewertung der Risiken: Die Compliance-Funktion sollte zunächst die Risiken identifizieren, die sich aus dem KI-Einsatz ergeben, etwa im Zusammenhang mit Datenschutz, Diskriminierung, Sicherheit und ethischer Verantwortung.
  • Entwicklung von Maßnahmen zur Risikominimierung: Die Compliance-Funktion hat die Aufgabe, Maßnahmen zur Minimierung der identifizierten Risiken zu entwickeln und zu implementieren. Dazu gehören beispielsweise Schulungen für Mitarbeitende, Richtlinien und Verfahren sowie technische Maßnahmen.
  • Monitoring der Maßnahmenadhärenz: Die Compliance-Funktion ist zuständig für die Kontrolle der Einhaltung von Maßnahmen zur Risikominimierung und ergreift bei Bedarf Korrekturmaßnahmen.

Herausforderungen für die Compliance-Funktion

Der KI-Einsatz stellt die Compliance-Funktion vor einige Herausforderungen:

  • Komplexität: KI-Systeme sind oft komplex und schwer zu verstehen. Dies erschwert es der Compliance-Funktion, Risiken exakt zu identifizieren und zu bewerten.
  • Dynamik: KI-Systeme entwickeln sich ständig weiter. Dies erfordert, dass die Compliance-Funktion stets auf dem Laufenden bleibt.
  • Neue Risiken: Der Einsatz von KI führt zu immer neuen Szenarien mit Regulierungsbedarf. Hier ist die Compliance-Funktion gefragt, neue Lösungen zu finden.

Möglichkeiten zur Unterstützung der Compliance-Funktion

Der KI-Einsatz bietet auch Chancen für die Compliance-Funktion:

  • Steigerung der Effizienz: KI-Systeme können die Compliance-Funktion bei der Erfüllung ihrer Aufgaben unterstützen. Beispielsweise können die Systeme die Identifizierung von Risiken durch die Analyse interner wie auch externer Datenquellen und die Antizipation von Trends beschleunigen beziehungsweise den Arbeitsaufwand beim Monitoring der Compliance von Maßnahmen reduzieren (beispielsweise ein automatisiertes Transaktionsmonitoring).
  • Verbesserung der Qualität: KI-Systeme können die Qualität der Compliance-Arbeit verbessern, etwa bei der Erstellung umfassender rechtlicher Einschätzungen oder detaillierter Datenanalysen.
  • Neue Ansätze: KI kann dazu beitragen, neue Ansätze für Compliance-Themen zu entwickeln, zum Beispiel bei der Messung des Compliance-Risikos oder der Entwicklung von Compliance-Trainings.

So unterstützen wir Sie

Integrity & Compliance Services

Die Erwartungen an Unternehmen sind hoch: Die Vermeidung von Fraud und Non-Compliance gehört zu den Kernthemen jeder guten Unternehmensführung. Dass Compliance wichtig ist, wissen viele Unternehmen – doch das Wie ist entscheidend. Denn es gibt viele Risiken, Standards und Herausforderungen für Unternehmen, in einer komplexen Welt das Richtige zu tun. Wir helfen Unternehmen bei der Etablierung moderner Integritäts- und Compliance-Management-Systeme: passgenau, branchen- und risikobezogen, nachhaltig und technologisch unterstützt.

Mehr lesen

Fazit

Der Einsatz von KI birgt aufgrund seiner Komplexität und Dynamik Risiken für die Ethik und Compliance im Unternehmen. Andererseits kann die Compliance-Funktion wesentlich zum rechtskonformen KI-Einsatz beitragen, indem sie Compliance-Risiken im Unternehmen identifiziert und minimiert und für die Einhaltung von Gesetzen, Vorschriften und internen Richtlinien sorgt. Chancen des KI-Einsatzes für die Compliance-Funktion liegen in der Steigerung von Effizienz und Qualität und der möglichen Entwicklung innovativer Ansätze.

Über diesen Artikel

Andreas Pyrcek
Von Andreas Pyrcek

EY Global Forensics Integrity, Compliance & Ethics Leader; Global Forensics Sector Leader, Technology, Media & Entertainment and Telecommunications, EY GmbH & Co. KG Wirtschaftsprüfungsgesellschaft | Deutschland

Erfahrener Partner für proaktive Compliance-, Ethik- und Integritätsfragen. Darüber hinaus steht er bei der Reaktion auf Betrug, Bestechung und Korruption weltweit, beratend zur Seite.

Verwandte Themen Forensic & Integrity Services Consulting Risikomanagement Wirtschaftsprüfung und Accounting-Beratung
Gefällt mir