KI und Gesundheit

Am bayrischen Abitur ist ChatGPT gescheitert – zumindest teilweise.¹ Dafür konnte der Chatbot BWL- und Jura-Prüfungen an amerikanischen Universitäten erfolgreich absolvieren.² Den Einstieg ins Berufsleben hat die Künstliche Intelligenz somit gemeistert. Und auch sonst treffen wir sie immer häufiger in unserem Alltag an. KI steckt hinter den Algorithmen auf sozialen Medien, die uns mit maßgeschneiderten Inhalten oder Werbeanzeigen versorgen. Sie filtert Spam-Nachrichten aus unseren E-Mails, erkennt unser Gesicht auf dem Smartphone oder versucht uns als Smart Home per Sprachsteuerung in den eigenen vier Wänden zu unterstützen. Autonomes Fahren ist ohne KI nicht denkbar, aber auch in der Landwirtschaft kommt sie zum Einsatz – um nur einige Anwendungsmöglichkeiten zu nennen. In Zukunft wird KI in vielen Bereichen unseres Lebens eine Rolle spielen.³

In der Medizinbranche werden Ärztinnen und Ärzte bei Operationen von KI-gestützte Roboterassistenten entlastet.⁴ Auch in der Diagnostik oder bei Behandlungsempfehlungen ist der Einsatz von Künstlicher Intelligenz möglich.⁵ In der Wissenschaft wird derzeit an weiteren Einsatzmöglichkeiten für KI im medizinischen Bereich geforscht.⁶ Die Vorteile liegen auf der Hand: Entlastung von medizinischem Personal sowie Einsparung von Zeit, die Patientinnen und Patienten an anderer Stelle zugutekommen kann. Smartwatches und Gesundheits-App (auch hier spielt KI eine tragende Rolle), bieten darüber hinaus Chancen für die Früherkennung von Krankheiten, können den allgemeinen Gesundheitszustand verbessern und ermöglichen es, die eigene Gesundheit selbstbestimmt im Blick zu behalten. Dennoch birgt KI – vor allem beim Einsatz ohne medizinisches Fachwissen – Risiken für die Gesundheit. Einem Arztbrief hat ChatGPT beispielsweise einige Details hinzugedichtet und ähnlich verhält es sich bei der Diagnosestellung von „Dr. KI“ über die Eingabe von Krankheitssymptomen.⁷ Während „Dr. Google“ in der „Diagnostik“ zumindest verschiedene mehr oder weniger brauchbare Inhalte empfiehlt, beantworten Chatbots eine Frage zu Krankheitssymptomen mit einer vermeintlich „korrekten“ Antwort – teilweise ohne nachvollziehbare Quellenangaben.⁸ Abgesehen davon, dass ChatGPT beispielsweise nicht datenschutzkonform ist, kann dies zu Verunsicherung, unnötigen Sorgen und im schlimmsten Fall zu ernstzunehmenden gesundheitlichen Risiken führen.⁹

Da davon auszugehen ist, dass Künstliche Intelligenz weiter Einzug in unser Leben halten wird und neben dem gesundheitlichen Aspekt viele weitere Bereiche von ihr beeinflusst werden, sprechen sich auch Lehrkräfteverbände sowie Bildungsministerien für die Integration von KI in die Lehrpläne aus.¹⁰ Dass KI in der Erstellung von Hausaufgaben zum Einsatz kommt oder Schülerinnen und Schülern andere unliebsame Aufgaben abnimmt, gänzlich zu unterbinden wird eine Herausforderung sein. Thüringens Bildungsminister Helmut Holter spricht sich dafür aus, dass „Schülerinnen und Schülern […] im Unterricht fundierte und nachhaltige Kompetenzen vermittelt werden, die ihnen auch einen konstruktiven und produktiven Umgang mit der KI ermöglichen“¹¹. Der tlv fordert hingegen die rasche Umgestaltung von Lehrplänen und spricht sich für die Vermittlung von Kompetenzen im Bereich der kritischen Nutzung und Bewertung von (Internet-)Quellen aus.¹²

Die große öffentliche Aufmerksamkeit für ChatGPT und KI im Allgemeinen sowie der Diskurs im Bildungsbereich zeigen, dass die Thematik relevant ist und vor allem für die künftigen Generationen relevant bleiben wird. Ein kompetenter und sicherer Umgang mit Künstlicher Intelligenz wird immer wichtiger – nicht nur in Gesundheitsfragen. Um diese Kompetenz zu fördern, gibt es bereits Initiativen wie beispielsweise das kostenlose Angebot des KI-Campus. Hier haben interessierte Lehrkräfte die Möglichkeit, ihre eigene Kompetenz im Bereich KI zu fördern und über „Unterrichtsimpulse und Online-Fortbildungen“¹³ in den Schulalltag zu integrieren. Die DURCHBLICKT! Unterrichtsmaterialien „Grundlegende Prinzipien der digitalen Welt“, „Medien und Prävention“ sowie „Personenbezogene Daten“ bieten weitere Anregungen für die Förderung der digitalen Gesundheitskompetenz und den Umgang mit Künstlicher Intelligenz im Unterricht.

¹Vgl. https://www.br.de/nachrichten/netzwelt/chatgpt-schafft-die-ki-das-bayerische-abitur,TVBjrXE, Stand 15.05.2023.
²Vgl. ebd.
³Vgl. https://www.vodafone.de/business/featured/digitale-vorreiter/experten/kuenstliche-intelligenz-im-alltag-12-beispiele/, Stand 15.05.2023.
⁴Vgl. https://www.barmer.de/verantwortung/digitale-verantwortung/cdr-bericht-2021/ki-in-der-medizin-1138562, Stand 15.05.2023. 
⁵Vgl. ebd.
⁶Vgl. https://www.iks.fraunhofer.de/de/themen/kuenstliche-intelligenz/kuenstliche-intelligenz-medizin.html, Stand 15.05.2023. 
⁷Vgl. https://www.aerzteblatt.de/archiv/229834/ChatGPT-Noch-kein-Allheilmittel, Stand 15.05.2023. 
⁸Vgl. https://www.aerzteblatt.de/archiv/229834/ChatGPT-Noch-kein-Allheilmittel & https://www.news4teachers.de/2023/04/bildungsminister-verbot-von-kuenstlicher-intelligenz-an-schulen-ist-nicht-durchsetzbar/?utm_source=mailpoet&utm_medium=email&utm_campaign=newsletter-total-neue-meldungen-auf-news4teachers_1, Stand 15.05.2023.
⁹Vgl. https://www.news4teachers.de/2023/04/bildungsminister-verbot-von-kuenstlicher-intelligenz-an-schulen-ist-nicht-durchsetzbar/?utm_source=mailpoet&utm_medium=email&utm_campaign=newsletter-total-neue-meldungen-auf-news4teachers_1, Stand 15.05.2023.
¹⁰Vgl. ebd.
¹¹ebd.
¹²Vgl. ebd.
¹³https://ki-campus.org/sites/default/files/2023-01/2023_KI-Campus_Lehrkr%C3%A4fte.pdf, Stand 15.05.2023.