KI – Chancen, Risiken und ein Plädoyer für aktives Mitgestalten
Alexa, Siri und ChatGPT gehören für viele bereits zum Alltag. Dazu sorgt die aktuellste chinesische KI Deepseek gerade für jede Menge Schlagzeilen. KI verändert nicht nur unser Privatleben, sondern auch Produktionsprozesse und Arbeitsplätze rapide. Für uns bei der SAMA war das der Anlass, uns eingehender damit zu beschäftigen, was KI eigentlich ist. Was kann KI heute schon, zum Beispiel in der Medizin? Welche Risiken sollten uns bewusst sein? Und welche Auswirkungen gibt es im Arbeitskontext? In diesem Blog-Beitrag möchte ich die die wichtigsten Erkenntnisse aus unserer Fortbildung mit Ihnen teilen.
Von KI – künstlicher Intelligenz, englisch AI für alien intelligence – spricht man ganz allgemein, wenn Maschinen oder Programme menschenähnliche Aufgaben übernehmen. Dabei werden Expertensysteme von Machine Learning unterschieden. Während Expertensysteme nach vorgegebenen Regeln arbeiten, handelt es sich bei ML um selbst lernende Systeme, die aus eingegebenen Beispiel-Daten einen Algorithmus entwickelt, mit dem auch für neue, nicht zuvor gelernte Dateneingaben eine korrekte Ausgabe erzeugt werden kann. Das System wird also zunächst anhand vorhandener Daten trainiert, dann validiert und kann dann auf neue, unbekannte Daten angewendet werden. Beim Deep Learnig greift das lernende System dabei auf große neuronale Netzwerke aus Millionen verbundener „Neuronen“ mit immenser Rechenleistung zurück, wodurch mittlerweile weit komplexere Daten und Zusammenhänge analysiert und verarbeitet werden können. KI ist also inzwischen extrem leistungsfähig. Sie „erkennt“ auf diese Weise z.B. Stimmungen anhand von Sprache oder Stresszustände anhand des Tippverhaltens am Handy. Chatbots können „empathische“ Gespräche führen. Und diagnostische KI erkennt pathologische Veränderungen zum Teil zuverlässiger als der Mensch.
Aus der Funktionsweise von KI ergeben sich aber auch Risiken. So neigt sie dazu, Inhalte und sogar Quellen zu erfinden, um Datenlücken zu füllen. Dadurch entstehen Falschaussagen, die aber einen vermeintlich fundierten Hintergrund haben und sich dadurch als wahr verbreiten lassen, wenn man sie ungeprüft übernimmt.
Ein weiteres Problem: Die Algorithmen werden anhand von Wahrscheinlichkeiten gelernt. Häufige Fälle gelten als „richtig“. Das bildet die Realität aber nicht immer korrekt ab. So hatte eine KI zur Einschätzung der Prognose festgestellt, dass Asthma-Patienten nicht wegen Pneumonie in der Notaufnahme behandelt werden müssten, weil sie nicht an Pneumonie sterben. Der Fehler: Asthma-Patienten sind in der Regel viel enger betreut und werden deswegen in der Mehrheit der Fälle früher intensiv behandelt, sodass sie nicht in der Notaufnahme landen. Deshalb waren sie im Datensatz des lernenden KI-Systems unterrepräsentiert, was zu einer völlig falschen Einschätzung führte. Ob die Aussage im wahren Leben richtig ist und ob sie ethisch-moralischen Ansprüchen genügt, kann KI nicht prüfen.
Trotzdem gibt es bereits heute viele sinnvolle Anwendungen. Das bekannteste in der Arbeitsmedizin genutzte Beispiel stellt sicherlich die Teledermatologie dar. Videosprechstunden, TI, ePA sind weitere Themen. Die Info-Plattform für arbeitsmedizinische Anwendungen www.arbeitsmedizin-digital.com gibt einen Überblick über das, was schon möglich ist.
Viele Risiken betreffen nicht nur KI-Systeme. Die digitalisierte Welt bringt Herausforderungen mit sich, was Informationsüberflutung, ständige Erreichbarkeit, Entgrenzung und Isolation betrifft. All das trifft für KI auch zu.
Hinzu kommt aber eine weitere Komponente, wenn Systeme Aufgaben übernehmen, die zuvor ein Mensch selbst ausführen konnte. Das zeigt sich z.B. bei der Arbeitsverteilung in der Logistik oder im Kundenservice. Übernimmt eine KI die Distribution der Aufgaben, werden Abläufe hinsichtlich der Effizienz optimiert. Es gibt nahezu keine Leerläufe mehr, die Beschäftigten werden durch die KI durchorganisiert und getaktet. Dabei geht erheblicher Handlungsspielraum verloren, Beschäftigte verlieren die Kontrolle über ihre Arbeitsabläufe. Sie bekommen oft auch kein Feedback mehr, haben keine Möglichkeit auf einer To-do-Liste zu sehen, was sie bereits erreicht haben. Damit sinkt das Selbstwirksamkeitserleben, das aber einen wesentlichen Resilienzfaktor darstellt. Wird nicht gegengesteuert, kann dies erlernte Hilflosigkeit und damit Demotivation bis hin zur depressiven Entwicklung nach sich ziehen. Wird die Arbeitsorganisation wesentlich oder gar komplett auf ein KI-System übertragen, fehlt außerdem der Kontakt zu anderen, weil keine Absprachen mit Teamleitung und Kollegen mehr erforderlich sind und dafür auch keine Zeit bleibt. Mit den entsprechenden Folgen für eine chronische Stressreaktion mit den bekannten Folgeerkrankungen vom Burnout bis zu kardiovaskulären Erkrankungen.
Aktiv und bewusst gegenzusteuern ist also unabdingbar. Beschäftigte sollten die Möglichkeit haben proaktiv mitzugestalten, indem sie bei der Optimierung von Arbeitsabläufen einbezogen werden und Einfluss auf lernende Systeme nehmen können. Feedback sollte sichergestellt werden und, vielleicht am wichtigsten, Kontakt und Kooperation von Mensch zu Mensch müssen weiterhin möglich sein. Zeit für Begegnung und informellen Austausch ist kein unwirtschaftlicher Leerlauf – sie ist eine Investition in Gesundheit, Zufriedenheit, Engagement und Mitarbeiterbindung.
KI bietet viele Vorteile und wirft gleichzeitig viele offene Fragen auf. Sie kann nur mit den Daten und Regeln arbeiten, mit denen sie gefüttert wurde. Wir Menschen müssen entscheiden, wie wir mit kritischen Fragen und moralischen Dilemmata umgehen wollen, denn wir legen die Daten und Regeln fest, nach denen die KI arbeitet. Diese Regeln bestimmen, welche Aussagen generiert werden und in welche Richtung sich Deep Learning Systeme weiterentwickeln - mit weitreichenden Folgen für unser tägliches Leben. Deshalb geht das Thema uns alle an! Es braucht eine aktive interdisziplinäre (technisch, medizinisch, psychosozial, ethisch) Auseinandersetzung mit dem Thema. Gerade als Arbeitsmediziner tragen wir dafür Verantwortung. Bringen Sie sich ein - neugierig, offen und kritisch!