Wo Licht ist, da ist auch Schatten, denn neben den zahlreichen Vorteilen und Erleichterungen im Alltag birgt Künstliche Intelligenz auch Risiken. Nach meinen letzten Beiträgen wurde ich häufig gebeten, einen Artikel zu diesem Thema zu schreiben. Das tue ich natürlich gern.
Es gibt direkte Risiken, die von KI ausgehen:
1. Programmierfehler im Algorithmus der KI oder bewusste Manipulationen. Das bedeutet, dass die KI Fragen absichtlich falsch oder gar nicht beantwortet. Ein kleines Beispiel: Wenn die Landesregierung von Bayern anordnet, dass alle KIs in Bayern auf die Frage „Welche Farbe hat der Himmel?“ mit „Der Himmel über Bayern ist blau-weiß!“ antworten müssen, mag das amüsant sein. Wenn jedoch Regierungen totalitärer Staaten Antworten vorgeben oder bestimmte Fragen nicht zulassen, wird es problematisch.
2. Schlechtes Training der KI mit einer mangelhaften oder bewusst einseitig ausgewählten Datenbasis – das sogenannte „Biasing“. Auch hier kann sowohl eine bewusste Manipulation als auch eine unbeabsichtigte Verzerrung auftreten. Beispiel: Ich lasse die KI Lebensläufe von guten Mitarbeitenden mit neuen Bewerbungen vergleichen und ein Ranking erstellen. Wenn nun zufällig alle Mitarbeitenden aus dem Saarland stammen, wird die KI alle Nicht-Saarländer diskriminieren. Dies verstößt zudem gegen das AGG und möglicherweise auch gegen die DSGVO.
Das Problem: Als einfacher Nutzer kann ich diese Fehler nicht erkennen! Die Antworten klingen meist perfekt und sehr plausibel. Hier setzt der risikobasierte Ansatz des EU AI Act an und verlangt von Betreibern Transparenz, Nachvollziehbarkeit und eine Risikobewertung.
Es gibt auch Gefahren durch
3. die Nutzer, die sensible Daten hochladen, mit denen sich die KI selbst trainiert und die sie dann nie wieder vergisst. Beispiel: Ich lasse zwei Verträge mit sehr sensiblen Daten übersetzen, vergleichen und zusammenfassen. Wenig später recherchiert ein Wettbewerber zu meiner Firma und diese Daten werden ausgegeben.
Auch dieses Risiko wird im EU AI Act berücksichtigt. Seit Februar 2025 sind Unternehmen verpflichtet, ihre Mitarbeiter im Bereich Künstliche Intelligenz zu schulen, damit diese ein Risikobewusstsein entwickeln. Für Firmen ist dies vergleichbar mit dem Thema Compliance und dem Umgang mit NDAs.
Zusammengefasst: Ich bin ein großer Fan von KI und nutze sie täglich. Daher rate ich Unternehmen dringend, ihre Mitarbeitenden zu schulen, damit diese ihre Hemmschwellen überwinden und gleichzeitig sensibilisiert sind, um KI verantwortungsvoll und gewinnbringend einzusetzen.
Deshalb: treten Sie mit mir Kontakt, denn genau diese Schulung biete ich an. Klicken Sie oben auf den Reiter „Trainings“ für weitere Informationen.
#KünstlicheIntelligenz #EUAIAct #Compliance #Digitalisierung #DSGVO #AGG