Datenschutz, Recht und Ethik

Ethische Aspekte treten im Kontext von KI stärker in den Vordergrund. Das hängt damit zusammen, dass die Frage nach Risiken im Kontext von KI letztlich von unserem grundlegenden Verständnis von Werten und Rechten abhängt, also damit, welchen moralischen Prinzipien, Regeln und Werte künstliche Intelligenz unterliegen sollte.

Die Europäische Union hat  Ethikleitlinien für vertrauenswürdige KI veröffentlicht. Dabei wurden sieben Kernanforderungen formuliert, die KI-Systeme erfüllen sollten, um als vertrauenswüdrig zu gelten:

Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten Menschen in die Lage versetzen, fundierte Entscheidungen zu treffen und ihre Grundrechte zu fördern. Gleichzeitig müssen für angemessene Aufsichtsmechanismen gesorgt werden, die durch menschliche Ansätze in den Kreisläufen, Menschen in den Kreisläufen und „Human-in-the-Loop“-Konzepte sowie durch menschen-in-command-Konzepte erreicht werden können.

Technische Robustheit und Sicherheit: KI-Systeme müssen widerstandsfähig und kontrolliert steuerbar sein. Sie müssen über definierte Rückfallpläne für den Fall von Fehlverhalten verfügen sowie präzise, zuverlässig und reproduzierbar arbeiten, um unbeabsichtigte Schäden zu reduzieren und zu verhindern.

Privatsphäre und Datenqualitätsmanagement: Neben der Gewährleistung der uneingeschränkten Achtung der Privatsphäre und des Datenschutzes müssen auch angemessene Daten-Governance-Mechanismen sichergestellt werden, die der Qualität und Integrität der Daten Rechnung tragen und einen legitimierten Zugang zu den Daten gewährleisten.

Transparenz: die Geschäftsmodelle für Daten, Systeme und KI sollten transparent sein. Rückverfolgbarkeitsmechanismen können dazu beitragen. Darüber hinaus sollten KI-Systeme und ihre Entscheidungen in einer Weise erläutert werden, die an die betroffenen Interessenträger angepasst ist. Die Menschen müssen sich dessen bewusst sein, dass sie mit einem KI-System interagieren, und sie müssen über die Fähigkeiten und Grenzen des Systems informiert werden.

Vielfalt, Nichtdiskriminierung und Fairness: Unfaire Verzerrungen müssen vermieden werden, da sie vielfältige negative Auswirkungen haben könnten, von der Marginalisierung schutzbedürftiger Gruppen bis hin zur Verschärfung von Vorurteilen und Diskriminierungen. Um Vielfalt zu fördern, sollten KI-Systeme für alle zugänglich sein, unabhängig von einer Behinderung, und die einschlägigen Interessenträger während ihres gesamten Lebenszyklus einbeziehen.

Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten allen Menschen, auch künftigen Generationen, zugutekommen. Daher muss sichergestellt werden, dass sie nachhaltig und umweltfreundlich sind. Darüber hinaus sollten sie der Umwelt, einschließlich anderer Lebewesen, Rechnung tragen, und ihre sozialen und gesellschaftlichen Auswirkungen sollten sorgfältig geprüft werden.

Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten. Die Überprüfbarkeit, die die Bewertung von Algorithmen, Daten und Entwurfsprozessen ermöglicht, spielt dabei eine Schlüsselrolle, insbesondere bei kritischen Anwendungen. Darüber hinaus sollte sichergestellt werden, dass angemessene Rechtsbehelfe zur Verfügung stehen.

Der Einsatz von Künstlicher Intelligenz an der Universität Salzburg folgt klaren ethischen Prinzipien. Vorrang hat stets das menschliche Handeln und die menschliche Aufsicht, um sicherzustellen, dass KI-Systeme unterstützend und nicht autonom entscheidend wirken. Forschungsvorhaben, die Risiken auf die

Die wesentlichen Rechtsakte beim Einsatz von KI sind die KI-VO sowie die DSGVO. Diese europäischen Verordnungen verfolgen verschiedene Ansätze: Die KI-VO regelt künstliche Intelligenz als Produkt und domänenspezifisch, bezieht sich also auf einzelne Anwendungszwecke. Die DSGVO schützt das Grundrecht auf Datenschutz mit einem generell-abstrakten Ansatz. Beide Rechtsakte sind technologieneutral formuliert und verfolgen einen risikobasierten Zugang. Rechtlich maßgebend für den rechtlichen Rahmen ist demnach das Risiko, das vom Einsatz von KI auf unsere Rechte, Freiheiten und Wertevorstellungen ausgeht.

Vor allem Hochrisiko-KI-Systeme (an der Universität Salzburg nicht im Einsatz) und Prozesse automatisierter Entscheidungsfindung haben erhöhten Anforderungen zu entsprechen:

• KI-Systeme für die Feststellung des Zugangs oder der Zulassung zu einem Studium

• KI-Systeme für die Bewertung von Lernergebnissen

• KI-Systeme zur Überwachung und Erkennung von verbotenem Verhalten von Studierenden bei Prüfungen

• KI-Systeme zur Auswahl von Bewerber*innen bei Bewerbungsverfahren

• KI-Systeme zur Entscheidung über Beförderungen oder Kündigungen
  

Hochrisiko-KI-Systeme sind nicht per se verboten, haben aber strenge Auflagen zu erfüllen wie beispielsweise im Bereich der Daten und Daten-Governance, der Cybersicherheit und der Einbindung menschlicher Aufsicht („human oversight“ oder auch „human in the loop“). Außerdem besteht ein Recht auf aussagekräftige und verständliche Erläuterung automatisiert getroffener Entscheidungen.

Weitere wichtige Themen sind die Urheberrechte und die Kennzeichnung von KI-generierten Inhalten. Um KI mit urheberrechtlich geschützten Inhalten trainieren zu können, benötigt es die entsprechenden Rechte. Das Urheberrechtsgesetz (UrhG) sieht für die Universität als Forschungseinrichtung besondere Ausnahmen für Text- und Data-Mining vor.

Sogenannte „Deepfakes“, also KI-generierte Inhalte, die mit echten Inhalten verwechselt werden können, sind nach der KI-VO als solche auszuweisen. Manche KI-Praktiken sind gänzlich verboten, wie beispielsweise benachteiligendes Social Scoring oder unterschwelliges beeinflussen außerhalb des Bewusstseins einer Person, um ihr Verhalten zu ändern.

Zentral ist in jedem Fall, dass die Nutzer*innen von KI die dafür notwendige KI-Kompetenz aufweisen. Ein entsprechendes Angebot hierfür finden Universitätsangehörige bei den Fortbildungsangeboten unserer  Personalentwicklung. Nähere Informationen zu Datenschutz und KI stellt die  österreichische Datenschutzbehörde bereit. Weiters empfehlen wir den offen verfügbaren Kurs „ Der EU AI Act im Hochschulkontext: Grundlagen für Lehre, Forschung und Verwaltung„.

Die Universität trägt die Gesamtverantwortung für alle KI-Systeme, die sie betreibt oder ihren Angehörigen zur Verfügung stellt. Die Universität ist verantwortlich für die Nutzung von KI durch ihre Mitarbeiter*innen und Forscher*innen. Zur Einhaltung von Standards und zur Wahrung von Rechten sind an der Universität verschiedene Gremien und Stellen eingerichtet.

• Ethikkommission
• Kommission zur Sicherung der guten wissenschaftlichen Praxis
• Betriebsräte
• Arbeitskreis für Gleichbehandlungsfragen
• Rechtsabteilung
• Datenschutzbeauftragter