1. Regularien
Wir befassen uns mit dem Gesetz über künstliche Intelligenz der EU (KI-Gesetz) und seinen potenziellen Auswirkungen auf die Schweiz. Wir beleuchten dabei einen möglichen Lösungsweg für die Schweiz im Hinblick auf die bevorstehende hiesige Gesetzgebung. Angesichts der Bedeutung der EU als wichtiger Handelspartner für die Schweiz ist es für die Marktteilnehmer unerlässlich, die Auswirkungen des KI-Gesetzes zu bewerten und dessen Einhaltung sicherzustellen.
Das Whitepaper von EY unterstützt die Stakeholder – darunter traditionelle Biopharmaunternehmen und neu in die Branche einsteigende Tech-Unternehmen – sich auf die kommenden Regulierungen vorzubereiten. Wenn Organisationen jetzt in dieses Thema investieren, können sie die Einhaltung von Regularien sicherstellen und gleichzeitig die Vorteile der KI für ihr Geschäft optimal nutzen.
2. Risiko
Das KI-Gesetz der EU behandelt Risikostufen und Mechanismen zu deren Kontrolle: Unannehmbare Risiken werden untersagt, risikoreiche Aktivitäten werden unter strenger Einhaltung der Vorschriften zugelassen, für künstliche Intelligenz mit begrenztem Risiko werden Transparenzverpflichtungen eingefordert und künstliche Intelligenz mit minimalem Risiko ist ohne Einschränkungen erlaubt.
Für den Sektor der Biowissenschaften, der sich mit sicherheitskritischen Anwendungen befasst, kann die Einhaltung der neuen Vorschriften schwierig und kostspielig sein. Unternehmen müssen KI-Governance und Risikobewertungen in ihren Organisationsstrukturen integrieren, daraus resultierende ethische Verpflichtungen festlegen, eine strategische Vision entwickeln, die Auswirkungen von KI konsistent bewerten und Risiken bei Dritten kontrollieren.
In dieser Umgebung liegt es im Interesse von den Stakeholdern der Biowissenschaften, KI-Risiken und die Prinzipien der Vertrauenswürdigkeit während des gesamten KI-Lebenszyklus miteinander zu verknüpfen. Die erfolgreiche Operationalisierung des KI-Risikomanagements setzt eine Abstimmung mit den Risikomanagementprogrammen der Organisation in Bereichen wie Governance, Kultur, Methoden, Prozesse und Technologie voraus.
3. Technologie
Eine ausgewogene Balance zwischen Transparenz und Komplexität bei der KI-Modellierung ist für Organisationen, die von den Vorteilen der KI profitieren wollen, von zentraler Bedeutung. Ansätze zur Verbesserung der Interpretierbarkeit und zur Identifizierung potenzieller Verzerrungen tragen dazu bei, die mit Black-Box-Modellen verbundenen Herausforderungen zu bewältigen und das Verständnis und Vertrauen in KI-Systeme zu fördern.
Entwickler sollten interpretierbare Funktionen priorisieren und Post-hoc-Analysetechniken einsetzen, um das Verhalten von Black-Box-Modellen zu bewerten. Zudem sollten sie sicherstellen, dass sie die verwendeten Algorithmen angemessen dokumentieren, um die Transparenz zu erhöhen und das Vertrauen der Marktteilnehmer zu stärken.