Bei der Nutzung von KI Systemen treten unmittelbar ethische Fragen auf. Dies betrifft vor allem die folgenden Bereiche:

• Vertrauenswürdige KI: Rechtmäßig und geltendes Recht anerkennend; ethisch begründet und der Einhaltung ethischer Grundsätze und Werte verpflichtet; Robustheit in technischer als auch in sozialer Hinsicht garantierend; unbeabsichtigte Schäden sind zu vermeiden bzw. minimieren; eine verantwortliche Wettbewerbsfähigkeit begründend, z.B. in Bezug auf Rankings.
• KI Einsatz in der Lehre: GenAI zur Unterstützung für Lehrende: GenAI zur Unterstützung für Studierende; KI Kreativität und Urheberschaft; Einsatz von KI bei der Erstellung von wissenschaftlichen Arbeiten.
• KI Einsatz in der Forschung: Einsatz von KI im Bereich der Erkenntnisgewinnung (Datenanalyse, Datenassimilierung, logisches Schließen, , …); Unterstützung des akademischen Arbeitens und wissenschaftlichen Tätigkeiten; KI-bezogene Forschung im engeren Sinne (Einfluss von Datenqualität, Modellentwicklung, alternative Verfahren); Forschungsethik (Minimierung invasiver, aufwändiger oder kostspieliger Erhebungs- oder Testverfahren wie z.B. Tierversuche, Feldbegehungen, etc.)
• KI Einsatz in Verwaltung und Administration: Optimierung und Automatisierung von Prozessen und Arbeitsabläufen; Einsatz von Bots bei routinierten Abfragen und individualisiertes Service; stärkere Verschränkung und Vernetzung von Prozessen.
• KI Ethik und Datenschutz: Vorrang menschlichen Handelns und menschliche Aufsicht; technische Robustheit, Ausgereiftheit und Sicherheit; Schutz der Privatsphäre und Daten- und Qualitätsmanagement; Transparenz und Erklärbarkeit; Vielfalt, Nichtdiskriminierung und Fairness; Gesellschaftliches und ökologisches Wohlergehen; Rechenschaftspflicht. Daten-Governance, KI-Kompetenz bei Anwendenden

Die TFG Artificial Intelligence der  EUA beruft sich bei den Empfehlungen zur Nutzung stark auf ethische Grundsätze. Den Universitäten kommt dabei eine spezifische Rolle zu, vor allem im Bereich der Aus- und Weiterbildung, die sich an den (dynamischen) digitalen Bedürfnissen des Arbeitsmarktes orientieren und idealerweise in Rahmencurricula harmonisiert werden. Des Weiteren agieren sie als Kontrollinstanz (stewardship) von Datenräumen und Forschungsrepositorien, sowie als Schnittstelle zu Regierungen und der breiten Öffentlichkeit (third mission). Universitäten setzen und überwachen ethische Leitlinien und wirken somit als Rollenmodelle eines integren und verantwortungsvollen Umgangs mit KI.