AI Assistance for Sensitive Social Data – The SoKI System
Artificial intelligence is being used more and more frequently in social professions as well. Its potential is particularly great in the areas of documentation, reporting, and knowledge management. The SoKI system, developed by Theodor Schöwitz and colleagues of the collective Sozial KI, demonstrates how AI applications can be used in compliance with data protection regulations when working with social data, and what opportunities this presents for occupational and social medicine.
KI-Assistenz für sensible Sozialdaten – Das System SoKI
Künstliche Intelligenz wird immer häufiger auch in sozialen Berufen eingesetzt. Besonders groß ist ihr Potenzial in den Bereichen Dokumentation, Berichterstellung und Wissensmanagement. Das System SoKI von Theodor Schöwitz und seinen Kollegen des Kollektivbetriebs Sozial KI zeigt, wie KI-Anwendungen datenschutzkonform für die Arbeit mit Sozialdaten eingesetzt werden können und welche Chancen sich daraus auch für die Arbeits- und Sozialmedizin ergeben.
Kernaussagen
- KI kann Fachkräfte bei der Dokumentation, der Berichterstellung und beim Wissensmanagement erheblich entlasten.
- Der Umgang mit Sozial- und Gesundheitsdaten erfordert datenschutzkonforme und rechtssichere KI-Lösungen.
- Die Stärke der KI-Anwendung liegt hier in der Automatisierung administrativer Routinetätigkeiten, nicht im Ersatz der eigentlichen sozialen Arbeit.
- Auch Arbeits- und Sozialmedizinerinnen und -mediziner können so von KI-gestützter Dokumentation und Wissensaufbereitung profitieren.
- Gleichzeitig müssen potenzielle Risiken wie Datenschutzverletzungen, Fehlinformationen und emotionale Abhängigkeiten kritisch reflektiert werden.
KI-Assistenz für sensible Sozialdaten
Beim Thema Künstliche Intelligenz (KI) denken wir meist an Chatbots und Bildgeneratoren. Für Fachkräfte im Gesundheits- und Sozialwesen stellt sich in diesem Zusammenhang jedoch vor allem eine Frage: Wie kann KI dazu beitragen, den hohen Dokumentationsaufwand zu reduzieren und mehr Zeit für die Arbeit mit Menschen zu schaffen?
Mit dieser Fragestellung beschäftigte sich Theodor Schöwitz, Mitgründer des Start-ups Sozial KI (s. Online-Quellen), in seinem Vortrag „Tools für KI-geschütztes Schreiben, Dokumentieren und Arbeiten mit Sozialdaten“ auf der Tagung Alle inklusive?! KI, Gaming und Apps für mehr Teilhabe von Menschen mit Behinderungen am 17. Juni 2026 im Tagungszentrum Hohenheim der Akademie der Diözese Rottenburg-Stuttgart. Das Unternehmen wurde von Master-Studenten des Studiengangs Digitalisierung in der Sozialen Arbeit der Dualen Hochschule Baden-Württemberg gegründet. Es entwickelt KI-Lösungen speziell für den Einsatz in sozialen Einrichtungen.
Administrative Belastung als gemeinsames Problem
Sowohl in den sozialen Diensten als auch in der Arbeits- und Sozialmedizin verbringen Fachkräfte einen erheblichen Teil ihrer Arbeitszeit mit Dokumentation, Berichten, Anträgen und Verwaltungsaufgaben. Diese sicherlich notwendigen Tätigkeiten binden erhebliche Ressourcen, die dann für die Beratung und Betreuung, aber auch für die Prävention fehlen.
Nach Auffassung von Theodor Schöwitz sollte KI deshalb vor allem als Instrument zur Automatisierung standardisierbarer Aufgaben verstanden werden. Er machte in seinem Vortrag deutlich, dass KI keine völlig neue Technologie ist, sondern nur die konsequente Weiterentwicklung digitaler Automatisierung. Die große Leistungsfähigkeit heutiger Systeme beruhe in erster Linie auf einer exponentiell gestiegenen Rechenkapazität moderner Computersysteme.
Datenschutz als zentrale Voraussetzung
Im Hinblick auf den Einsatz von KI im Bereich der Sozialarbeit betonte Theodor Schöwitz, dass hier vor allem der Schutz der sensiblen Daten im Vordergrund steht. Er betont, dass Sozialdaten und Gesundheitsdaten zu den schützenswertesten personenbezogenen Informationen überhaupt gehören. Gleichzeitig nutzen viele Beschäftigte – auch im Sozialbereich – bereits heute frei verfügbare Systeme wie ChatGPT oder ähnliche Anwendungen, häufig ohne ausreichende Kenntnis der datenschutzrechtlichen Konsequenzen.
Dies war für ihn und seine Kollegen der Anlass dafür, das System SoKI zu entwickeln, um KI-Funktionen innerhalb einer kontrollierten und datenschutzkonformen Infrastruktur bereitzustellen. Ihr Ziel war es also, nicht nur die Vorteile von modernen Sprachmodelle nutzbar zu machen, sondern gleichzeitig auch die Anforderungen der Datenschutz-Grundverordnung (DSGVO), der Sozialgesetzgebung und der europäischen KI-Verordnung einzuhalten (s. Online-Quellen).
Dieser Aspekt ist auch für Arbeits- und Sozialmedizinerinnen und -mediziner in besonderem Maße relevant, da auch betriebsärztliche Dokumentationen, sozialmedizinische Gutachten oder Fallbesprechungen in der Regel hochsensible personenbezogene Informationen enthalten, deren Schutz zwingend gewährleistet sein muss.
Praxisanwendungen im Sozialwesen
Im Verlauf seines Vortrags stellte Theodor Schöwitz mehrere Anwendungsfelder von SoKI vor, die bereits heute in sozialen Einrichtungen genutzt werden. So berichtete er davon, dass ein Schwerpunkt auf der automatisierten Dokumentenerstellung liegt. Hierbei können strukturierte oder unstrukturierte Informationen – beispielsweise Gesprächsnotizen oder Fallakten – von der KI in vorgegebene Dokumentationsformate überführt werden. Darüber hinaus können Entwürfe für Entwicklungsberichte, Hilfepläne oder andere standardisierte Dokumente erstellt werden, die anschließend von Fachkräften geprüft und freigegeben werden. Auch im organisationsinternen Wissensmanagement wird SoKI eingesetzt. In einer Wissensdatenbank werden interne Regelungen, Qualitätsmanagement-Handbücher oder Verfahrensanweisungen hinterlegt. Sie können über eine KI-gestützte Suchfunktion abgefragt werden. Die Mitarbeitenden erhalten auf ihre Anfragen dann Antworten mit Quellenverweisen auf die zugrunde liegenden Dokumente.
Das KI-Tool kann auch für automatische Transkriptionen und Zusammenfassungen von Besprechungen genutzt werden. Beispielsweise können Gespräche oder Teammeetings aufgezeichnet, transkribiert und nach vorgegebenen Kriterien zusammengefasst werden. Der doch meist erhebliche Aufwand für Protokolle und Nachdokumentationen reduziert sich dadurch deutlich.
Potenzial für die Arbeits- und Sozialmedizin
Viele der von Theodor Schöwitz vorgestellten Anwendungen lassen sich auch auf verschiedene arbeits- und sozialmedizinische Tätigkeitsfelder übertragen.
Hierzu gehören zum Beispiel (➥ Abb. 1):
- die automatisierte Erstellung von Gesprächsprotokollen,
- strukturierte Vorentwürfe für sozialmedizinische Stellungnahmen,
- intelligente Wissensdatenbanken für Leitlinien und Verfahrensanweisungen,
- die Unterstützung bei Fallkonferenzen und Rehabilitationsplanungen,
- die Übersetzung medizinischer Informationen in leicht verständliche Sprache.
Vor allem die Aufbereitung komplexer Informationen für Patientinnen und Patienten könnte einen wichtigen Beitrag zu deren Gesundheitskompetenz leisten.
Grenzen und Risiken
Trotz der dargestellten Potenziale warnte Theodor Schöwitz vor einem unkritischen Einsatz von KI. Sprachmodelle können Fehlinformationen erzeugen („Halluzinationen“) und benötigen deshalb stets eine fachliche Kontrolle durch qualifizierte Anwenderinnen und Anwender. Besondere Aufmerksamkeit widmete er der zunehmenden emotionalen Bindung mancher Menschen an KI-Systeme. Er verwies auf aktuelle Forschungsergebnisse, wonach manche Nutzerinnen und Nutzer KI-basierte Gesprächspartner als besonders verständnisvoll erleben. Langfristig könnten dadurch zum Beispiel bei psychisch instabilen Personen Erwartungen an zwischenmenschliche Kommunikation entstehen, die reale soziale Beziehungen erschweren. Gerade in psychosozialen, rehabilitativen und medizinischen Kontexten bleibt deshalb die persönliche Interaktion unverzichtbar.
Fazit
KI-Anwendungen gehen inzwischen weit über experimentelle Einsatzmöglichkeiten hinaus. Besonders im Bereich der Dokumentation haben sie das Potenzial, Fachkräfte spürbar zu entlasten und Verwaltungsprozesse effizienter zu machen. Arbeits- und Sozialmedizinerinnen und -mediziner erhalten dadurch die Möglichkeit, mehr Zeit für ihre eigentlichen Kernaufgaben Beratung, Begutachtung und Prävention einzusetzen sowie Menschen in gesundheitlich belastenden Lebenssituationen zu begleiten. Voraussetzung hierfür ist immer ein verantwortungsvoller Einsatz der KI, bei dem Datenschutz, Transparenz und fachliche Kontrolle integrale Bestandteile jeder KI-Anwendung sein müssen. Auf diese Weise kann KI bei den arbeits- und sozialmedizinischen Tätigkeiten in erheblichem Maße unterstützen.▪
Interessenkonflikt: Die Autorin gibt an, dass keine Interessenkonflikte bestehen.
Hinweis zum KI-Einsatz: Zur Recherche und zur Überprüfung der inhaltlichen und sprachlichen Korrektheit des Beitrags wurde ein KI-System eingesetzt. Die Endkontrolle und die Freigabe des Textes erfolgten durch die Autorin.
Online-Quellen
Sozial KI: SoKI – Künstliche Intelligenz für die soziale Arbeit. Das KI-Tool für soziale Organisationen und Einrichtungen
https://www.sozial-ki.de/
Europäische Kommission: Verordnung über künstliche Intelligenz (AI Act). Brüssel, 2024
https://artificialintelligenceact.eu/de/
Europäische Union: Datenschutz-Grundverordnung (DSGVO), Verordnung (EU) 2016/679
https://dsgvo-gesetz.de/
Stanford University: Human-AI Interaction Research Program. Aktuelle Untersuchungen zu sozialen Auswirkungen generativer KI-Systeme
https://hai.stanford.edu/policy/simulating-human-behavior-with-ai-agents
Kontakt
Foto: privat
