Das PDF dient ausschließlich dem persönlichen Gebrauch! - Weitergehende Rechte bitte anfragen unter: nutzungsrechte@asu-arbeitsmedizin.com
KI-gestützte Systeme können Arbeitsprozesse optimieren und Fachkräfte im Gesundheitswesen entlasten. Der Einsatz kann jedoch auch neue Risiken mit sich bringen, wie etwa Überforderung, Entfremdung oder Dequalifizierung. Deshalb sollte nicht nur die KI selbst, sondern auch ihre Einbettung in bestehende Arbeitsprozesse im Fokus stehen. Arbeitswissenschaftliche Kriterien wie Ganzheitlichkeit, Technikzuverlässigkeit oder Interaktionsförderlichkeit sind dabei ebenso entscheidend wie ethische Prinzipien - etwa Schadensverhütung, Erklärbarkeit oder gesellschaftliches Wohlergehen.
In zwei Werkstattgesprächen wurden konkrete Eingriffspunkte entlang des Lebenszyklus eines KI-Systems identifiziert - von der Entwicklung über den Betrieb bis hin zu einer regelmäßigen Evaluation. Ziel ist es, KI-Anwendungen von Beginn an so zu gestalten, dass sie Beschäftigte entlasten und gleichzeitig sicher und menschengerecht sind. Die Expertinnen und Experten plädieren für konkrete Umsetzungshilfen wie ethische Checklisten, standardisierte Bewertungsverfahren oder einen „Beipackzettel“ für KI-Anwendungen, der über Risiken und Einsatzbedingungen aufklärt. Langfristig braucht es außerdem klare Zuständigkeiten zwischen Herstellern und Betreibern sowie eine kontinuierliche Überwachung der Systeme im Betrieb.
Alle Akteure entlang der KI-Wertschöpfungskette tragen Verantwortung für eine gemeinwohlorientierte und humane KI-Gestaltung im Gesundheitswesen. Es ist daher entscheidend, wirksame Eingriffspunkte zur Umsetzung dieses Ziels zu identifizieren und aktiv anzugehen.
Der baua: Bericht kompakt „Menschengerechte Gestaltung Künstlicher Intelligenz im Gesundheitswesen – Impulse aus zwei Werkstattgesprächen“ kann als PDF auf der Internetseite der BAuA heruntergeladen werden (s. Link).
Quelle: BAuA
➔ https://www.baua.de/DE/Angebote/Publikationen/Bericht-kompakt/F2574
