KI-Governance

Die zuletzt rasende Entwicklung der künstlichen Intelligenz (KI) stellt alle Unternehmen vor neue Herausforderungen. In hoher Geschwindigkeit werden neue Einsatzszenarien für KI-Systeme entwickelt, bestehende Prozesse werden beschleunigt und neue Produkte und Geschäftsmodelle entstehen. Die Innovationskraft der KI macht es zugleich erforderlich, frühzeitig steuernd einzugreifen, um Risiken zu vermeiden und den Einsatz künstlicher Intelligenz im Sinne der Unternehmensziele zu gestalten. 

Begriff der KI-Governance

KI-Governance umfasst die Rahmenbedingungen, Richtlinien und Praktiken, die gewährleisten, dass KI verantwortungsvoll, ethisch und im Einklang mit menschlichen Werten entwickelt und genutzt wird. Ziel ist es, die Entwicklung und Anwendung von KI-Systemen so zu steuern, dass sie gesellschaftlichen Interessen dienen, Risiken minimieren und positive Auswirkungen maximieren. Wichtige Aspekte der KI-Governance sind daher neben Compliance und Datenschutz, auch Transparenz, Sicherheit, Fairness und Verantwortlichkeit.

Ziele und wesentliche Prinzipien der KI-Governance

Eine KI-Governance dient der Schaffung von Rahmenbedingungen und Prozessen sowie der Definition von Zuständigkeiten für den Einsatz von KI im Unternehmen. Ziel einer richtig verstandenen KI-Governance ist nicht die Beschränkung oder gar Verhinderung des Einsatzes künstlicher Intelligenz, sondern die Gewährleistung eines sicheren Unternehmensumfeldes, das den Einsatz von KI ermöglicht und im Sinne der Unternehmensziele fördert. Durch die Setzung von revisionsoffenen Rahmenbedingungen und die Einrichtung von transparenten Prozessen schafft die KI-Governance einen offenen Innovationsraum. Eine so verstandene KI-Governance fördert Innovation, steigert die Effizienz von Geschäftsprozessen und stärkt dadurch die Nachhaltigkeit und erhöht die Wettbewerbsfähigkeit von Unternehmen. 

Die KI-Governance stellt zugleich sicher, dass Risiken frühzeitig identifiziert und adressiert werden und die Einhaltung wichtiger Unternehmensgrundsätze sichergestellt wird. Übergeordnetes Ziel ist mithin eine steuernde Rahmensetzung unter Beachtung der folgenden Prinzipien:

KI Prinzipien

Quelle: Eigene Darstellung

Im Hinblick auf die schnelle Weiterentwicklung der KI und die noch nicht abgeschlossene Entwicklung der maßgeblichen rechtlichen und gesellschaftspolitischen Rahmenbedingungen muss die KI Governance auch selbst entwicklungsoffen ausgestaltet sein und durch prozessimmanente Kontrollen eine laufende Fortentwicklung ermöglichen. Wichtig für die erfolgreiche unternehmensinterne Implementierung der KI-Governance ist zudem, dass die KI-Governance hinsichtlich ihrer Komplexität auf das Unternehmen und die unternehmensspezifische Bedeutung von Einsatzfeldern der künstlichen Intelligenz zugeschnitten ist. Insofern wird man zudem zwischen der Perspektive als Anbieter und Entwickler von KI-Systemen und als Verwender von KI-Systemen differenzieren müssen.

Rahmenbedingungen einer KI-Governance

Für die Ausgestaltung der KI-Governance im Unternehmen ergeben sich viele Leitplanken aus den einschlägigen rechtlichen Vorgaben. Zentrale Bedeutung haben hier zunächst die KI-Verordnung und EU-Produkthaftungsrichtlinie, sowie die künftig zu erwartende KI-Haftungsrichtlinie. Weitere rechtliche Rahmenbedingungen ergeben sich etwa aus den Bereichen Datenschutz, Urheberrecht und sonstige Bereiche des Geistigen Eigentums, Arbeitsrecht (beispielsweise Fragen der Mitbestimmung und des Beschäftigtendatenschutzes) und Gesellschaftsrecht bzw. Corporate Governance. Erhebliche Bedeutung können zudem sektorspezifische Vorgaben, etwa in der Versicherungswirtschaft, im Bank- oder Gesundheitswesen, haben.

Während die rechtlichen Anforderungen den äußeren Handlungsrahmen für alle Marktteilnehmer beschreiben, obliegt es jedem Unternehmen selbst, innerhalb dieses Handlungsrahmens Vorgaben für den Umgang mit KI zu definieren. Diese Vorgaben zu setzen und eine KI-Strategie zu definieren obliegt der Unternehmensleitung. Die KI-Governance muss sich an den so definierten Vorgaben orientieren und diese umsetzen.

Voraussetzung einer funktionierenden KI-Governance ist zudem Transparenz hinsichtlich des Einsatzes von KI im Unternehmen. Hierzu sollten die unternehmensintern bereits bestehenden KI-Projekte und Use Cases systematisch erfasst werden. Die genutzten Systeme und deren Einsatz können in einem unternehmensweiten KI-Register erfasst werden, das ähnlich dem Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO die wesentlichen Informationen zur Verwendung von KI im Unternehmen enthält.

Das KI-Register ist Grundlage für das KI-bezogene Risikomanagement. Die aus der Verwendung von KI folgenden Risiken sind zu identifizieren, zu bewerten und zu steuern.

Ablauf eines KI-Gover­nance-Projekts

KI

Quelle: Eigene Darstellung

 

Haben Sie Fragen?

Sie beschäftigen sich selbst mit KI-Governance oder interessieren sich für Themen rund um die KI-Governance? Gern kommen wir mit Ihnen ins Gespräch. Wir freuen uns auf Ihre Nachricht an ki-governance [at] goerg.de (ki-governance[at]goerg[dot]de).

Newsletter Icon

Keine Neuigkeiten verpassen.

Zur Newsletter-Anmeldung

goep_0459_290622

Einige der von uns gesetzten Cookies dienen dazu, bestimmte Funktionen unserer Webseiten zu ermöglichen, insbesondere zur Steuerung des Cookie-Banners (damit dieses bei Ihren erneuten Besuchen nicht immer wieder angezeigt wird). Diese Cookies enthalten keine personenbezogenen Daten, insbesondere nicht Ihre IP-Adresse. Andere Cookies, die zu Analysezwecken gesetzt werden (siehe hierzu auch den Abschnitt „Web-Analyse-Tools“), helfen uns zu verstehen, wie Besucher mit unseren Webseiten interagieren. Diese Cookies dienen dazu, die Nutzung unserer Webseiten statistisch zu erfassen und zum Zwecke der Optimierung unseres Angebotes auszuwerten. Die Analyse-Cookies werden bis zu 13 Monate gespeichert.