Mit dem rasanten Fortschritt KI-gestützter Technologien im Gesundheitsbereich rücken auch die ethischen Fragen stärker in den Fokus – insbesondere, wenn es um den Einsatz bei Jugendlichen geht. Zwei aktuelle Publikationen von Gottfried Schweiger am Zentrum für Ethik und Armutsforschung widmen sich diesem Spannungsfeld und leisten einen Beitrag zur ethischen Debatte um digitale Phänotypisierung im Kontext psychischer Gesundheit.

Im Artikel „ Explainability as an ethical requirement for digital phenotyping in adolescents“ (erschienen in Clinical Ethics) argumentiert Schweiger, dass herkömmliche Vorstellungen von „Erklärbarkeit“ algorithmischer Systeme nicht ausreichen, wenn KI-Anwendungen Jugendliche betreffen. Digitale Phänotypisierung – also die Nutzung digitaler Verhaltensdaten, etwa von Smartphones, zur Einschätzung psychischer Zustände – wirft komplexe ethische Fragen auf. Schweiger betont, dass Erklärbarkeit bei Jugendlichen entwicklungs- und beziehungsbezogen gedacht werden muss: Neben technischer Transparenz sind auch kognitive Entwicklung, Identitätsbildung und das Bedürfnis nach epistemischer Autonomie zentral.

Der zweite Artikel, „ The ethics of AI-assisted digital phenotyping in adolescent mental health: a framework for informed consent and trust“ (erschienen in AI and Ethics), entwickelt ein umfassendes Rahmenmodell für informierte Einwilligung bei KI-gestützter Datennutzung. Schweiger plädiert für einen relationalen Ansatz, der Jugendliche in ihren sozialen Kontexten ernst nimmt und Vertrauen als zentrale Voraussetzung für die Nutzung entsprechender Technologien begreift. Nur durch transparente Kommunikation und partizipative Prozesse könne ein ethisch vertretbarer Umgang mit sensiblen Gesundheitsdaten gewährleistet werden.

Beide Beiträge zeigen deutlich: Der Einsatz von KI in der psychischen Gesundheitsversorgung Jugendlicher erfordert nicht nur technische, sondern vor allem ethische Innovationen – und eine grundlegende Neubewertung dessen, was Verantwortung, Aufklärung und Partizipation in einer digitalisierten Gesundheitswelt bedeuten.