Datenethik und KI-Governance – verantwortungsvolle und ethische Nutzung von Daten

Künstliche Intelligenz (KI) und der Umgang mit Daten bieten Unternehmen enormes Potenzial. Viele Unternehmen haben bereits KI-Anwendungen wie Chatbots im Einsatz, aber der plötzliche Aufstieg von ChatGPT hat zu einem starken Interesse an KI geführt. Die schnelle Entwicklung von KI hat neue Möglichkeiten geschaffen, z.B. in der Content-Erstellung, der Dokumentanalyse und der Textzusammenfassung. Gleichzeitig wirft die steigende Beliebtheit von ChatGPT zahlreiche ethische und rechtliche Fragen auf.

KI kann Medienunternehmen helfen, die Qualität ihrer Inhalte zu verbessern, das Engagement ihres Publikums zu steigern und fundierte Geschäftsentscheidungen zu treffen. Aber Anwendungen wie ChatGPT sollten ethisch und verantwortungsvoll eingesetzt werden, mit angemessenen Schutzmaßnahmen, um Missbrauch zu verhindern. KI kann beispielsweise bestehende Vorurteile verstärken oder die Verbreitung von Fake News ermöglichen. Diese Risiken werden auch von der Europäischen Union erkannt, weshalb eine Gesetzgebung (AI Act) in Arbeit ist, die die Datenethik, den Einsatz von KI und neue Anforderungen an die Umsetzung der Daten-Governance weiter regulieren wird.

Daten-Governance bezieht sich auf das Management von Daten innerhalb einer Organisation, einschließlich Richtlinien, Verfahren und Standards für die Sammlung, Speicherung, Verarbeitung und Weitergabe von Daten. Datenethik hingegen bezieht sich auf die moralischen Prinzipien und Werte, die der Nutzung von Daten zugrunde liegen.

Diese Konzepte verstärken sich gegenseitig und um die Möglichkeiten von KI ausnutzen zu können, widmen wir bei SCHICKLER als Teil der Highberg Gruppe diesen Themen zunehmend Aufmerksamkeit. Zusammen mit unseren Schwesterorganisationen Verdonck Klooster & Associates (VKA) und House of Performance arbeiten wir daran, Datenethik und Daten-Governance zu verankern und uns auf den Europäischen AI Act vorzubereiten.

 

Warum Datenethik?

Es ist möglich, es ist erlaubt, aber sollten wir es wollen? Das ist tatsächlich der Kern der Ethik. Insbesondere im Bereich der Daten ist vieles möglich und es wird zunehmend mehr. Die Vorschriften hinken jedoch oft hinterher, was bedeutet, dass die Einhaltung der Gesetze keine Garantie dafür ist, dass Risiken vermieden werden. Aber wer oder was bestimmt, ob man es wollen sollte? Unsere Erfahrung zeigt, dass hierfür ausreichendes Wissen und besondere Fähigkeiten in Ethik erforderlich sind. Zunächst muss Wissen über Verhaltenskodizes, Werte und Verhaltensregeln vorhanden sein. Wenn Kollegen dieses Wissen haben, werden sie auch sensibler für ethische Dilemmasituationen und das Verhalten wird entscheidend. Stelle ich Fragen bei unklaren Situationen? Und wem kann ich sie stellen? Kann ich ein Datendilemma auf die Tagesordnung setzen und werden die Ergebnisse und Entscheidungen dann auch mit allen geteilt?

 

 

Verantwortungsvolle Datenverwaltung

Eine effektive Datenverwaltung ist unerlässlich, um den ethischen Umgang mit Daten zu gewährleisten. Ein gut gestaltetes Framework für Datenverwaltung kann Organisationen dabei helfen, klare Richtlinien für das Datenmanagement festzulegen, einschließlich Datenschutz, Eigentum und Transparenz. Es kann auch sicherstellen, dass Daten korrekt, zuverlässig und angemessen genutzt werden. Daher muss neben Bewusstsein, Wissen und Fähigkeiten im Bereich Datenethik auch darauf geachtet werden, wie Entscheidungen getroffen werden.

 

Die AI-Verordnung

Die Bedeutung und Dringlichkeit von Datenethik und Datenverwaltung wächst. In diesem Zusammenhang präsentierte die Europäische Kommission im März 2021 eine Vision und Strategie für Europas digitale Transformation bis 2030. Dieser Plan, auch als Digitales Jahrzehnt („Digital Decade“) bezeichnet, umfasst auch neue Gesetze zur Regulierung des ethischen Umgangs mit Daten: die Verordnung über künstliche Intelligenz („AI Act“).

Der AI Act ist eine europäische Verordnung, die sich an Entwickler, Verteiler und Benutzer von KI-Systemen richtet. Dabei handelt es sich um Systeme, die beispielsweise für Vorhersagen, Klassifikationen und Analysen verwendet werden. Der AI Act soll 2026 in Kraft treten – die Vorbereitungen sollten jetzt beginnen. Der AI Act verfolgt einen risikobasierten Ansatz. Das bedeutet, dass der AI Act umfassendere Anforderungen an KI-Systeme mit hohem Risiko stellen wird.  Für solche Systeme schreibt der AI Act unter anderem vor:

• Durchführung einer Risikoanalyse;
• Sicherstellung angemessener Datenverwaltung;
• Erstellung technischer Dokumentation;
• Implementierung von Logging-Funktionen;
• Sicherstellung ausreichender Transparenz;
• Einführung von menschlicher Aufsicht;
• Umsetzung von Sicherheitsmaßnahmen;
• Einrichtung eines Qualitätsmanagementsystems;
• Durchführung einer Konformitätsbewertung;
• Registrierung in einem Register.

Wie können wir helfen?

Wir helfen Organisationen dabei, Datenethik und Datenverwaltung von Anfang bis Ende zu integrieren. Dazu muss ein Bewusstsein für Datenethik geschaffen werden – Schulungen und sogenannte „Serious Games“ (Spiele mit ernsthaftem Lernziel) helfen dabei. Zusätzlich wird eine Datenverwaltung entwickelt und umgesetzt.

Wir bereiten Ihre Organisation auf den bevorstehenden AI Act vor und helfen Ihnen, die Möglichkeiten von KI auf verantwortungsvolle Weise zu nutzen.

 

Für weitere Informationen stehen Ihnen die folgenden Ansprechpartner in der Highberg-Gruppe zur Verfügung:

• Hendrik Langen, Geschäftsführender Partner, SCHICKLER, h.langen@schickler.de
• Christian Verhagen, VERDONCK KLOOSTER & ASSOCIATES, christian.verhagen@vka.nl
• Sjoerd Hogenbirk, HOUSE OF PERFORMANCE, s.hogenbirk@hofp.nl