Auch wenn Pepe, der Pflegeroboter oder Paro, das künstliche Robbenbaby für Patient*innen mit Demenz noch Prototypen sind – klar ist: KI hält auch im Sozialsektor Einzug. Fachkräfte sollten die Entwicklungen im Blick behalten.

Text: Janna Degener-Storr

Um es vorweg zu nehmen: Sozialarbeiter*innen müssen sich keine Sorgen machen, dass Roboter ihnen die Arbeit wegnehmen. Bisher spielt Künstliche Intelligenz in der sozialen Arbeit noch eine sehr marginale Rolle. Und doch gibt es erste spannende Ansätze, wie die Disziplin von neuesten technischen Entwicklungen profitieren könnte.

Spracherkennung und Chatbots

Bei der Dokumentation beispielsweise können Sozialarbeiter*innen heute schon Spracherkennungssoftware einsetzen, um sich das mühsame Eintippen von Informationen oder das handschriftliche Ausfüllen von Akten zu ersparen. Allerdings sollten sie hier einen wachsamen Blick auf die Ergebnisse haben, denn die Anwendungen machen durchaus mal Fehler. Ausgereifter ist der Einsatz bisher allerdings in der ambulanten und stationären Pflege, sagt Helmut Kreidenweis, Professor für Sozialinformatik an der Katholischen Universität Eichstätt-Ingolstadt: „Die KI steuert die passenden Felder im System an und übersetzt die gesprochene Sprache möglichst genau in eine schriftliche Dokumentation“.

Eine andere Idee: Chatbots in der Beratung einsetzen. Auch hier ersetzen die Maschinen den Menschen allerdings nicht, sondern sie dienen beispielsweise als erste Anlaufstelle, um Hilfesuchenden eine passende Ansprechperson zu vermitteln. „In der Beratung von Migranten etwa gibt es ein bestimmtes Set an Fragen, die immer wieder auftauchen. Zum Beispiel: Wo kann ich meinen Aufenthaltsstatus verlängern? Wenn es nur darum geht, Faktenwissen zu vermitteln, kann KI hier eine Hilfe sein. Für die psychosoziale Beratung und andere komplexe Themen braucht es aber auf absehbare Zeit noch Menschen“, erklärt Kreidenweis.

Automatisierte Personalplanung

In der Verwaltung der sozialen Arbeit können Maschinen teilweise schneller arbeiten und objektivere Entscheidungen fällen als Menschen. Bei der Personaleinsatzplanung hat KI das Potenzial, unterschiedlichste Faktoren zu berücksichtigen und durch eine Software möglichst objektive Vorentscheidungen treffen zu lassen. Dabei sollte natürlich nachvollziehbar sein, warum das System welche Entscheidungen fällt. Und es sollte auch die Möglichkeit geben, dass die Beschäftigten ihre Wünsche – beispielsweise mithilfe einer Smartphone-App – einfließen lassen und später bei Bedarf auch noch individuell Dienste tauschen können.

Die Unternehmens- und Personalberatung contec hat gemeinsam mit dem Bochumer Institut für Technologie BO-I-T und dem Praxispartner Pradtke GmbH an einem solchen System geforscht, dass für Pflegekräfte gedacht ist und für auch andere soziale Berufe mit Schichtsystem verwendet werden kann. „Dabei galt es, unterschiedlichste Aspekte zu berücksichtigen: Was ist technisch erlaubt? Was ist mit Blick auf das Arbeitsschutzgesetz, das Arbeitszeitgesetz und tarifliche Besonderheiten rechtlich möglich? Und was ist im Sinne eines guten Dienstplans auch wirklich sinnvoll?“, erklärt Benjamin Herten, der das Projektteam mit seiner Branchenexpertise bereicherte.

Berücksichtigt wurden etwa die vorgeschriebenen Ruhezeiten sowie arbeitswissenschaftliche Empfehlungen darüber, dass Menschen im Sinne ihrer Gesundheit am besten vom Früh- zum Spät-, vom Nacht- zum Frühdienst rotieren sollten. Und selbst individualisierte Schichtsysteme wurden bedacht, also etwa die Möglichkeit, im Frühdienst später anzufangen oder einen Zwischendienst einzulegen. Die Software sollte die unterschiedlichen Faktoren gewichten. Das Forschungs- und Entwicklungsprojekt KI-PEPS wurde mit Mitteln der Europäischen Union und des Landes NRW gefördert und ist nun beendet. Perspektivisch sollen Teile der Software in der Praxis genutzt

Gefährliche Fehlschlüsse

Um schnelle und objektive Entscheidungen geht es auch im Kinderschutz. Und auch hier wird viel über den Einsatz von KI diskutiert. Im US-amerikanischen Allegheny beispielsweise wird bereits seit 2017 ein Tool eingesetzt, das Sozialarbeiter*innen dabei unterstützen soll, Kindeswohlgefährdung zu erkennen. Auf der Basis verschiedener Einflussfaktoren entwickelt die Software einen Risikoindex, ab einem bestimmten Wert wird die Familie dann durch die Fachkraft genauer beobachtet.

Allerdings zeigen die Evaluationen, dass bei der Verwendung sogenannte Bias-Probleme entstehen: Die KI muss mit Daten versorgt werden. Doch in den zur Verfügung stehenden Daten sind Personengruppen mit bestimmten Merkmalen überrepräsentiert, was dann bei der späteren Verwendung der Software zu Verzerrungen oder Stigmatisierungen führen kann. „Viele der im System erfassten Familien sind arm. Die KI zieht daraus den falschen Schluss, dass Familien, die stark von Armut betroffen sind, eher ihre Kinder vernachlässigen“, erklärt Jennifer Burghardt, die sich an der TH Nürnberg mit dem Thema beschäftigt.

Eine solche Gefahr bergen auch ähnliche Programme, die beispielsweise die Rückfallwahrscheinlichkeit von Straftätern vorhersagen sollen. „Es ist bekannt, dass weiße Polizisten und Staatsanwälte in den USA schwarze Straftäter für die gleichen Verbrechen deutlich härter bestrafen als weiße Straftäter“, sagt Prof. Helmut Kreidenweis. Mit dem Einsatz der KI entstehe also auch hier ein hohes Risiko, dass Menschen, die ohnehin gesellschaftlich stigmatisiert sind, durch bewusst oder unbewusst stigmatisierende Trainingsdaten noch weiter stigmatisiert werden.

Mitwirken in der KI-Forschung

Gerade an solchen Punkten ist es aber hilfreich, wenn Sozialarbeiter*innen ihr Know-how und ihre Erfahrungen bereits bei der Erforschung und Entwicklung entsprechender Technologien einbringen. Das zeigt auch das Beispiel von Jennifer Burghardt. Die Sozialarbeiterin beschäftigt sich als Mitarbeiterin eines Forschungsprojekts an der TH Nürnberg mit dem Thema. Zuvor war sie zehn Jahre lang als Mitarbeiterin in einem Jugendamt beschäftigt, wo sie sich mit Fragen der Standardisierung von Arbeitsabläufen und Optimierung von Prozessen befasste.

„Als ich zum ersten Mal von KI im Kinderschutz hörte, dachte ich: Das sind ja Quantensprünge. Wir reden doch gerade erst über die Basics der Dokumentationssoftware“, sagt sie. Dann gefiel ihr aber die Idee, ihre sozialarbeiterische Expertise von Anfang an in die Entwicklung solcher Technik einzubringen – auch damit digitale Anwendungen die Arbeit wirklich erleichtern, anstatt zusätzlichen Aufwand zu schaffen.

Jetzt betreibt sie Grundlagenforschung im Projekt „Kann ein Algorithmus im Konflikt moralisch kalkulieren?“ gemeinsam mit anderen Sozialwissenschaftler*innen, aber auch mit Philosoph*innen und Informatiker*innen. „Wenn es darum geht, was der Algorithmus bei Entscheidungen zu Kindeswohlgefährdung beitragen kann, ist eine erste wichtige Frage, wie eigentlich Menschen diese Entscheidungen fällen. Auf dieser Grundlage können wir nach Möglichkeiten suchen, die Maschinen zu trainieren und passendes Material dafür zu finden“, sagt Burghardt.

Darüber hinaus besteht die Tätigkeit der Sozialarbeiterin in der KI-Forschung aber auch darin, Zugang zum Feld herzustellen und Erhebungen durchzuführen. Auch da profitiert sie von ihrem beruflichen Hintergrund: „Natürlich fassen die Fachkräfte in den Jugendämtern schneller Vertrauen zu mir, weil ich selbst in dem Bereich gearbeitet habe. Und ich kenne auch die Rahmenbedingungen der alltäglichen Praxis.“

Doch auch für Sozialarbeiter*innen, die nicht in die Forschung einsteigen wollen, ist es jetzt schon sinnvoll, sich mit den Potenzialen und möglichen Gefahren von KI auseinanderzusetzen. Denn sie können einerseits einen wichtigen Beitrag leisten, wenn es um Fragen der Ethik und Sicherheit solcher Techniken geht. Andererseits hilft es ihnen, in ihrer Arbeit auf dem Stand der Entwicklung zu bleiben, neue Technik zu verstehen, bedienen und einschätzen zu können – für sich, und für die Aufklärung ihrer Klient*innen, die digitale Tools und Programme nutzen.

• Der Artikel ist im WILA Arbeitsmarkt erschienen. Neben einem redaktionellen Teil bietet das Abo-Produkt hunderte ausgewählte aktuelle Stellen – handverlesen speziell für Akademiker*innen mit einem generalistischen Studienhintergrund.
• Die Abonnentinnen und Abonnenten erhalten durch den redaktionellen Teil und die Stellen-Datenbank einen breiten und dennoch konkreten Überblick über derzeitige Entwicklungen in Berufsfeldern und Branchen, können sich anhand der ausgewählten Jobs beruflich orientieren und bleiben so bei der Jobsuche am Ball. Unsere Erfahrung: Viele Abonnent*innen stoßen auf Tätigkeiten, die sie gar nicht auf dem Schirm hatten.