Sozial KI Blog

KI-gestützte Dokumentenerstellung in der Sozialen Arbeit: Hilfepläne und Vorlagen im Sozialwesen sicher befüllen

Tue, 09 Jun 2026 18:22:37 GMT

KI-gestützte Dokumentenerstellung in der Sozialen Arbeit: Hilfepläne und Vorlagen im Sozialwesen sicher befüllen

Immer wieder dasselbe Dokument

Hilfepläne, Entwicklungsberichte, Anträge, Verlaufsdokumentationen: Ein erheblicher Teil der Schreibarbeit in sozialen Einrichtungen findet in immer gleichen Vorlagendokumenten statt. Die Struktur steht fest, die Pflichttexte stehen fest, das Layout ist vorgegeben. Was sich ändert, sind die fallbezogenen Inhalte. Fachkräfte übertragen dieselben Informationen von der Fallakte in den Hilfeplan, vom Gesprächsprotokoll in den Bericht, vom Bericht in den nächsten Antrag.

Diese Übertragungs- und Schreibarbeit ist zeitintensiv und fehleranfällig. Sie bindet Ressourcen, die anderweitig sinnvoller verwendet werden könnte.

Warum herkömmliche KI-Anwendungen hier keine Lösung sind

Der Gedanke liegt nahe, solche Dokumente einfach von einer konventionellen KI ausfüllen zu lassen. In der Praxis sozialer Arbeit scheitert das primär an zwei Punkten:

Datenschutz und Vertraulichkeit. Fallbezogene Informationen gehören zu den sensibelsten Daten überhaupt: Sozialdaten, Gesundheitsdaten, familiäre Verhältnisse. Wer sie in frei verfügbare KI-Dienste eingibt, riskiert Datenschutzverletzungen und den Verlust der Kontrolle darüber, wo diese Daten verarbeitet, gespeichert und wohlmöglich zweckentfremdet genutzt werden.

Fehlende Verlässlichkeit im Dokument. Selbst wenn die Inhalte stimmen, verändern generische KI-Systeme häufig mehr als gewollt: Pflichttexte werden umformuliert, Formatierungen gehen verloren, Informationen landen im falschen Abschnitt - oder es ändern sich unbemerkt Stellen, die unangetastet bleiben müssen. Bei Dokumenten, die gegenüber Kostenträgern, Behörden oder Gerichten Bestand haben müssen, ist das nicht tragbar.

Das Ergebnis: Entweder wird weiter alles von Hand übertragen und manuell geschrieben, oder es entsteht ein unverhältnismäßig hoher Kontroll- und Prüfaufwand, der den Zeitgewinn wieder auffrisst.

Neu in SoKI: Die Dokument-Assistenz

Mit der SoKI Dokument-Assistenz lösen wir beide Probleme zusammen. KI-Beauftragte der Einrichtungen bereiten Vorlagendokumente einmalig für die KI vor und schalten sie für ihre Mitarbeitenden frei. Die KI darf darin ausschließlich die dafür markierten Platzhalter befüllen: alles andere am Dokument ist für sie technisch unantastbar. So entstehen maßgeschneiderte, einrichtungseigene KI-Vorlagen, mit denen Fachkräfte wiederkehrende Dokumente in einem Bruchteil der Zeit erstellen.

Der Ablauf in vier Schritten:

Vorlage markieren. KI-Beauftragte der sozialen Organisation erstellen Formatvorlagen und markieren, welche Textabschnitte SoKI befüllen darf.
In SoKI auswählen. Mitarbeitende wählen die bereitgestellte Vorlage in SoKI aus, stellen die Quelle für die benötigten Informationen zur Verfügung und lassen die Vorlage durch SoKI befüllen.
SoKI füllt die Felder. SoKI ersetzt die Platzhalter mithilfe von Informationen, die aus den jeweils bereitgestellten Quellen extrahiert wurden.
Vorgaben werden eingehalten. Layout, Format und Pflichttext kann die KI nicht verändern - das ist technisch ausgeschlossen. Nur die Platzhalter werden befüllt.

Spürbare Entlastung im Dokumentationsalltag

Übertragungsarbeit entfällt, fachliche Arbeit bleibt. Das Heraussuchen und Eintragen von Informationen übernimmt das System. Die fachliche Prüfung, Gewichtung und Verantwortung für das fertige Dokument bleiben bei der Fachkraft. Sie kontrolliert das befüllte Dokument, bevor es weiterverwendet wird.

Dokumente bleiben formal verlässlich. Weil Layout, Format und Pflichttexte technisch geschützt sind, sehen die Ergebnisse exakt so aus, wie die Einrichtung es vorgegeben hat. Es gibt keine unbeabsichtigten Änderungen an Stellen, die niemand angefasst haben wollte - und damit auch keinen versteckten Prüfaufwand.

Die Einrichtung definiert den Rahmen. Nicht die KI entscheidet, was sie im Dokument darf, sondern die KI-Beauftragten. Sie bestimmen, welche Vorlagen es gibt, welche Abschnitte befüllbar sind und welche Mitarbeitenden welche Vorlagen nutzen können. KI-Einsatz nach den Regeln der Organisation statt nach den Eigenheiten eines Modells.

Einheitlichkeit ohne Mehraufwand. Alle Mitarbeitenden arbeiten mit denselben freigegebenen Vorlagen. Qualitätsstandards und formale Vorgaben werden einmal in der Vorlage verankert und gelten dann automatisch für jedes Dokument.

Schneller Einstieg für alle. Mitarbeitende benötigen keine Kenntnisse im Formulieren von KI-Anweisungen. Vorlage auswählen, Quelle bereitstellen, Ergebnis prüfen. Mehr ist im Alltag nicht nötig.

Datenschutz bei der KI-gestützten Dokumentenerstellung

Gerade Vorlagendokumente wie Hilfepläne enthalten in ausgefüllter Form besonders schützenswerte Informationen. Für die Dokument-Assistenz gelten deshalb unverändert dieselben Grundprinzipien wie für alle anderen Funktionen und Produkte von Sozial KI: keine US-Anbieter, Null-Datenspeicherung, EU-Souveränität und DSGVO-Konformität. Die bereitgestellten Quellen werden ausschließlich zum Befüllen der jeweiligen Vorlage verarbeitet. Der Schutz der Falldaten bleibt durchgängig gewährleistet. Die Infrastruktur von SoKI ist von Grund auf für den Umgang mit sensiblen Daten gebaut.

Routinearbeit abnehmen, Verantwortung bei den Menschen lassen

Mit der Dokument-Assistenz nehmen wir Fachkräften eine der zeitintensivsten Routinetätigkeiten der sozialen Arbeit ab, ohne dass Einrichtungen dafür Kontrolle über ihre Dokumente oder ihre Daten abgeben müssen. Die KI befüllt, was sie befüllen darf - nicht mehr. Was im Dokument steht und was es bedeutet, bleibt in der Verantwortung der Fachkräfte. So gewinnen soziale Einrichtungen Zeit zurück für das, worauf es ankommt: die Arbeit mit den Menschen.

Die SoKI Dokument-Assistenz ist ab sofort verfügbar und kann durch KI-Beauftragte auf ihrer SoKI-Instanz eingerichtet und für Mitarbeitende freigeschaltet werden. Bei Fragen können sich KI-Beauftragte gerne an soki@sozial-ki.de oder direkt an ihren persönlichen Ansprechpartner wenden.

KI-gestützte Visualisierungsmethoden in der sozialen Fallarbeit, Fallanalyse und Coaching

Tue, 02 Jun 2026 08:15:25 GMT

KI-gestützte Visualisierungsmethoden in der sozialen Fallarbeit, Fallanalyse und Coaching

Was visuelle Methoden in der sozialen Arbeit leisten

In der sozialen Arbeit geht es selten um einfache Sachverhalte: Familienkonstellationen über mehrere Generationen, das Zusammenspiel von Belastungen und Ressourcen, biografische Wendepunkte, widersprüchliche Kräfte in einer Veränderungssituation. Solche Zusammenhänge lassen sich in Worten nur schwer vollständig fassen. Was im Gespräch gesagt wird, ist flüchtig. Was eine Klientin über ihre Familie erzählt, ergibt oft erst im Zusammenhang ein klares Bild.

Genau hier setzen visuelle Methoden an. Ein Genogramm, eine Netzwerkkarte oder eine Lebenslinie machen sichtbar, was sich sprachlich nur umständlich beschreiben lässt. Sie verwandeln verstreute Informationen in ein gemeinsames Bild, auf das Fachkraft und Klient:in zusammen schauen können. Das verändert die Qualität des Gesprächs und der fachlichen Betreuung.

Warum Visualisierungen in der Fallarbeit wirken

Visualisierungen sind ein fachliches Werkzeug. Sie unterstützen Klientinnen und Klienten beim Erzählen, beim Verstehen und beim Mitgestalten von Interventionen. Mehrere Wirkungen greifen dabei ineinander:

Erzählen wird leichter. Visuelle Formate geben dem Gespräch eine Struktur und einen Anker. Wer an einer Lebenslinie entlanggeht oder das eigene Netzwerk Schritt für Schritt aufbaut, erinnert sich an Zusammenhänge, die im freien Erzählen untergehen würden. Das Bild trägt das Gespräch, statt es zu ersetzen.

Ressourcen werden sichtbar. Viele Klient:innen nehmen vor allem ihre Probleme wahr. Eine Netzwerkkarte oder ein Lebensrad zeigt daneben, welche Unterstützungen, Stärken und stabilen Bereiche bereits vorhanden sind. Diese Verschiebung des Blicks ist ein zentraler Hebel für Empowerment und für eine zielgerichtete Aktivierung.

Teilhabe wird möglich. Komplexe Familienverhältnisse oder emotionale Bezüge lassen sich in einer Grafik so darstellen, dass auch Menschen mit sprachlichen Barrieren, jüngere Klient:innen oder Personen in belastenden Situationen mitarbeiten können. Das Bild senkt die Einstiegsschwelle und macht aus Betroffenen Mitgestaltende.

Selbstreflexion wird angestoßen. Etwas auf dem Papier oder Bildschirm visualisiert zu sehen, schafft Distanz zur eigenen Situation. Diese Außenperspektive erleichtert es, Muster zu erkennen, Prioritäten zu sortieren und über Veränderung nachzudenken - eine Grundlage für Coaching und Zukunftsplanung.

Die praktische Hürde: Manuelle Visualisierungen kosten Zeit und benötigen weitreichendes Methodenwissen

So überzeugend der fachliche Nutzen ist - in der Praxis bleiben viele dieser wertvollen Methoden ressourcenbedingt ungenutzt. Ein sauberes Genogramm von Hand zu zeichnen, eine Kraftfeldanalyse korrekt aufzubauen oder ein Soziogramm zu erstellen, erfordert Zeit, Übung und die sichere Kenntnis der jeweiligen Notation. Im dichten Alltag sozialer Organisationen fehlt dafür oft der Raum. Generische Zeichensoftware ist umständlich, und nicht jede Fachkraft hat alle Methoden gleich präsent.

Die Folge: Visuelle Werkzeuge werden seltener eingesetzt, als es fachlich sinnvoll wäre. Der Aufwand für die Erstellung steht dem Nutzen im Weg.

Neu in SoKI: KI-gestützte Visualisierungstools

Mit den neuen Visualisierungstools in SoKI verschieben wir diesen Aufwand. Fachkräfte stellen SoKI die nötigen Fallinformationen zur Verfüguing: im Gespräch mit dem System, auf Basis von Notizen oder ausgehend von einer Fallakte. SoKI erstellt daraus automatisch die passende, fallspezifische Diagramm. Aus erzählten oder dokumentierten Informationen entsteht in wenigen Augenblicken eine strukturierte Visualisierung, die anschließend angepasst und weiterentwickelt werden kann.

Verfügbar sind unter anderem:

Genogramm: Familien- und Beziehungsstrukturen über mehrere Generationen mit Verwandtschaftsbeziehungen, Belastungsfaktoren und wiederkehrenden Mustern
Soziale Netzwerkkarte: Das soziale Umfeld einer Person: wer ist nah, wer trägt, wo bestehen Belastungen oder Lücken
Kraftfeldanalyse: Fördernde und hemmende Kräfte in einer Veränderungssituation im direkten Gegenüber
Lebenslinie: Biografische Ereignisse, Brüche und Wendepunkte in chronologischer Abfolge
Risikopfade: Mögliche Verläufe und Eskalationsdynamiken nachvollziehbar und besprechbar gemacht
Prioritäten-Matrix : Aufgaben und Ziele geordnet nach Dringlichkeit und Wichtigkeit
Lebensrad: Die Zufriedenheit in verschiedenen Lebensbereichen auf einen Blick
Soziogramm : Beziehungen und Dynamiken innerhalb einer Gruppe, etwa einer Familie, Wohngruppe oder Klasse

…und über 20+ weitere Formate und Tools, die wir laufend ergänzen.

Wie die KI-Unterstützung den Alltag verändert

Der Gewinn liegt nicht nur in der Geschwindigkeit, sondern in der Verschiebung des Aufwands. Die mechanische, zeitintensive Arbeit - das Zeichnen, das korrekte Anlegen der Notation, das Umstrukturieren bei jeder neuen Information - übernimmt das System. Die fachliche Arbeit bleibt bei der Fachkraft und im gemeinsamen Prozess mit der Klient:in.

Mehr Methoden werden tatsächlich genutzt. Wer eine Kraftfeldanalyse oder ein Soziogramm nicht aus dem Stand zeichnen kann, kann sie jetzt trotzdem einsetzen. Die Methodenvielfalt steht allen offen, nicht nur jenen, die eine bestimmte Notation sicher beherrschen.

Der Fokus bleibt auf der Beziehung. Statt während des Gesprächs mit dem Zeichnen beschäftigt zu sein, bleibt die Aufmerksamkeit beim Gegenüber. Das Diagramm entsteht im Hintergrund und kann gemeinsam betrachtet, korrigiert und weitergedacht werden.

Visualisierungen werden zum lebendigen Arbeitsmittel. Weil eine Anpassung nur Augenblicke dauert, können Diagramme im Verlauf fortgeschrieben werden. Eine Netzwerkkarte wächst mit, eine Lebenslinie wird ergänzt, eine Prioritäten-Matrix verändert sich mit dem Fall.

Die fachliche Verantwortung bleibt bei der Fachkraft. SoKI erstellt einen Entwurf, keine fertige Deutung. Die Interpretation, die Gewichtung und die Arbeit mit dem Bild bleiben Aufgabe der Fachkraft - idealerweise gemeinsam mit der Klientin oder dem Klienten. Die KI nimmt den Aufwand der Darstellung ab, nicht die fachliche Einschätzung.

Die Kontrolle behalten: Der Human-in-the-Loop-Editor

Dass die KI einen Entwurf liefert und keine fertige Deutung, ist in SoKI technisch verankert. Alle Visualisierungstools sind mit einem Human-in-the-Loop-Editor ausgestattet. Nachdem die KI eine Darstellung erzeugt hat, lassen sich sämtliche Elemente manuell anpassen und neu setzen: Personen und Knoten hinzufügen oder entfernen, Verbindungen ändern, Beziehungsqualitäten und Gewichtungen korrigieren, Beschriftungen überarbeiten.

Damit hat die Fachkraft jederzeit das letzte Wort. Falls die KI etwas missversteht, unvollständig abbildet oder anders gewichtet, als es fachlich angemessen wäre, wird direkt im Editor korrigiert. Unsere KI liefert den Rohentwurf, die fachliche Feinarbeit bleibt in menschlicher Hand. Weil dabei jeder Parameter und jede Verbindung einsehbar und veränderbar ist, bleibt nachvollziehbar, was dargestellt wird; nichts soll als Black Box übernommen werden.

Zugleich macht der Editor die Visualisierung zu einem lebendigen Arbeitsmittel im Gespräch. Korrekturen, die erst im Dialog auftauchen, wie beispielsweise „die Beziehung zu meiner Schwester ist eher angespannt" oder „diese Person fehlt noch", lassen sich unmittelbar einarbeiten. So entsteht aus dem automatischen Vorschlag und der manuellen, fachlich verantworteten Nachbearbeitung ein Ergebnis, das Geschwindigkeit und Genauigkeit verbindet.

Reflektierter und rechtskonformer Einsatz

Die Tools zeichnen. Die fachliche Bewertung entsteht im Zusammenspiel von Fachkraft und System, nicht durch die Grafiktools. Strukturelle Formate wie Genogramm, Netzwerkkarte oder Lebenslinie bilden lediglich feststehende Zusammenhänge ab. Kritischer hinzusehen ist bei Werkzeugen, die Einschätzungen zu Werten, Rangfolgen oder Kategorien verdichten.

Der Maßstab dafür ist Artikel 5 des EU AI Act, der Social Scoring verbietet: die Bewertung von Menschen über einen Zeitraum anhand ihres Verhaltens oder abgeleiteter Merkmale, sofern sie zu einer Schlechterstellung führt. Eine fachlich verantwortete Priorisierung liegt im Normalfall außerhalb dieses Verbots: Aus einem hohen Dringlichkeitswert folgt mehr und frühere Unterstützung. Hilfe stärker dorthin zu lenken, wo der Bedarf größer ist, geschieht im selben Kontext (der Hilfeplanung) und ist das Gegenteil einer ungerechtfertigten Schlechterstellung.

Der entscheidende Schutz liegt damit genau dort, wo SoKI ihn technisch verankert: in der menschlichen Beurteilung, die im Prozess bleibt. Der Human-in-the-Loop-Editor ist deshalb nicht nur ein Komfortmerkmal, sondern eine rechtliche Absicherung. Drei Grundsätze tragen das: Der maschinelle Vorschlag tritt nie an die Stelle der Entscheidung, die Eingaben bleiben auf den Hilfezweck beschränkt, und ein vorgeschlagener Wert ersetzt keine fachliche Einschätzung.

Aus diesen Gründen werden die Mitarbeitenden / KI-Beauftragten unserer Kunden vor der Nutzung ausführlich geschult. Sie beherrschen anschließend nicht nur die Bedienung, sondern kennen auch die rechtlichen Grenzen und können die Tools reflektiert und rechtskonform einsetzen.

Datenschutz bei Visualisierung sensiblen Falldaten

Gerade Visualisierungen berühren besonders schützenswerte Informationen: Familienverhältnisse, gesundheitliche und biografische Daten, Risikoeinschätzungen. Für diese Daten gelten in SoKI unverändert dieselben Grundprinzipien wie für alle anderen Funktionen und Produkte von Sozial KI: keine US-Anbieter, Null-Datenspeicherung, EU-Souveränität und DSGVO-Konformität. Durch die Erstellung der Diagramme verändert sich daran nichts und der Schutz der Falldaten bleibt durchgängig gewährleistet.

Fachliche Methoden zugänglich machen

Mit den KI-gestützten Visualisierungstools senken wir die Schwelle für bewährte, fachlich fundierte Methoden aus Disziplinen der sozialen Arbeit und Coaching. Soziale Einrichtungen sollen visuelle Werkzeuge dort einsetzen können, wo sie wirken - ohne dass der Erstellungsaufwand zur Hürde wird.

Die neuen Visualisierungstools können ab sofort durch KI-Beauftragte auf ihrer SoKI-Instanz freigeschaltet werden. Bei Fragen können sich KI-Beauftragte gerne an soki@sozial-ki.de oder direkt an ihren persönlichen Ansprechpartner wenden .

KI-Modell-Routing für soziale Einrichtungen: Mit Modellpseudonymen die passenden Sprachmodelle wählen

Wed, 13 May 2026 06:15:21 GMT

KI-Modell-Routing für soziale Einrichtungen: Mit Modellpseudonymen die passenden Sprachmodelle wählen

Der KI-Modellmarkt verändert sich schneller, als der Alltag in sozialen Einrichtungen es abbilden kann

In kurzen Abständen erscheinen neue Sprachmodelle: Mistral, Hermes, GLM, Kimi, DeepSeek, Qwen und weitere. Jedes Modell hat eigene Stärken, Schwächen und Einsatzschwerpunkte. Für Forschungs- und Entwicklungsabteilungen ist diese Dynamik faszinierend. Für soziale Einrichtungen, die KI-Assistenzsysteme im Produktivbetrieb haben, führt sie in der Praxis vor allem zu einem zusätzlichen organisatorischen Aufwand.

Mitarbeitende in Beratungsstellen, in der Jugendhilfe oder anderen sozialen Organisationen haben in der Regel weder die Zeit noch den fachlichen Auftrag, kontinuierlich Modell-Benchmarks zu vergleichen. Für die KI-Beauftragte vor Ort stellen sich trotzdem fortlaufende Fragen in der Modellauswahl beim Aufbau von KI-Assistenzen je nach Anwendungsfall:

Welches Modell formuliert oder korrigiert deutschsprachige Texte am zuverlässigsten?
Welches Modell eignet sich für die Analyse von Gesprächen oder Fallakten?
Welches Modell halluziniert am wenigsten und hält sich eng an bereitgestellte Inhalte?
Welches Modell führt Tools wie die Erstellung von Word- oder Excel-Dateien zuverlässig aus?
Welches Modell kann angemessen mit sensiblen Inhalten wie Gewalt oder Sexualität umgehen?
Welches Modell arbeitet besonders ressourcenschonend?

Diese Fragen sind technischer Natur, haben aber direkte Auswirkungen auf die fachliche Arbeit. Eine ungeeignete Modellwahl führt im Ergebnis zu Ausgaben, die hinter dem Möglichen zurückbleiben.

Warum wir unseren Ansatz weiterentwickeln

Bisher haben wir in SoKI die jeweils unter unseren strengen Datenschutzvorgaben aktuell verfügbaren Modelle unter ihren Originalnamen zur Verfügung gestellt. Das war für technisch interessierte Nutzer:innen transparent, hat in der Praxis aber dazu geführt, dass die Verantwortung für die Modellauswahl bei den Einrichtungen selbst lag - und damit auch der laufende Aufwand, neue Modelle zu bewerten, Empfehlungen für Kolleg:innen zu pflegen und auf Veränderungen im Modellmarkt zu reagieren.

In Gesprächen mit Einrichtungen und in der täglichen Nutzungsbeobachtung haben wir gesehen, dass dieser Aufwand für viele Träger schwer zu leisten ist. Gleichzeitig ist die fachlich passende Modellwahl entscheidend für die Qualität der Ergebnisse. Aus dieser Beobachtung heraus haben wir unseren Ansatz in der Bereitstellung von KI-Modellen angepasst.

Modellpseudonyme: Auswahl nach Aufgabe

Mit dem neuen Feature wählen KI-Beauftragte sozialer Einrichtungen in SoKI keine konkreten Modellnamen mehr aus, sondern Kategorien, die sich am tatsächlichen Anwendungsfall orientieren - sogenannte Modellpseudonyme:

Standard — Solider Allrounder für die meisten Aufgaben, besonders leistungsfähig bei deutsch- und europäischsprachigen Inhalten

Emotionale Intelligenz — für Analysen von Gesprächen oder Fallverläufen

Nachdenken & Schlussfolgern — für komplexe Analysen und Erarbeitung von Zusammenhängen

Weniger Zensur — für Themen, bei denen Standardmodelle übervorsichtig reagieren

Niedrige Halluzination — für Aufgaben, bei denen Genauigkeit und Nähe zu den bereitgestellten Materialien zählt

Coding & Logik — für strukturierte und technische Aufgaben sowie die Ausführung von Tools

Umweltfreundlich — für ressourcenschonenden Einsatz

Modellpseudonyme -> Modell-Pool"/>

SoKI ordnet jeder Kategorie im Hintergrund das aus unserer Sicht am besten geeignete Modell aus unserem Modell-Pool zu - aktuell unter anderem Mistral, GLM, Kimi, DeepSeek, Llama, Hermes, Qwen und GPT-OSS. Verändert sich der Modellmarkt, passen wir die Zuordnung an, ohne dass Einrichtungen ihre Workflows anpassen müssen.

Was sich für Einrichtungen konkret ändert

Modellpseudonyme reduzieren die Komplexität in der täglichen Nutzung, sie verbergen aber nichts. Welches konkrete Modell aktuell hinter welcher Kategorie steht, können KI-Beauftragte bei Interesse jederzeit einsehen. Einrichtungen, die einzelne Modelle weiterhin gezielt ansprechen möchten, können dies ebenfalls weiterhin tun. Der Standardweg ist die Auswahl über Pseudonyme; die direkte Modellauswahl bleibt als Option erhalten.

Auswahl nach Aufgabe statt nach Anbieter. Mitarbeitende wählen die Kategorie, die zur Aufgabe passt. Die Zuordnung zum jeweiligen Modell übernimmt SoKI.

Stabilität bei wechselnder Modelllandschaft. Wird ein Modell durch ein besseres ersetzt, geschieht das im Hintergrund. Schulungen, interne Leitfäden und etablierte Routinen müssen nicht angepasst werden.

Geringerer Einarbeitungsaufwand. Neue Mitarbeitende benötigen kein Vorwissen über einzelne Modellnamen, um produktiv mit dem Aufbau von KI-Assistenzsystemen zu starten.

Datenschutz bleibt unverändert. Unabhängig vom eingesetzten Modell gelten unsere Grundprinzipien weiter: keine US-Anbieter, Null-Datenspeicherung, EU-Souveränität, DSGVO-Konformität.

Einrichtungen befähigen, ohne sie durch Komplexität zu belasten

Mit Modellpseudonymen entkoppeln wir die fachliche Nutzung von KI von der technischen Modellauswahl. Soziale Einrichtungen sollen mit SoKI fortlaufend handlungsfähig sein, ohne den Modellmarkt selbst kuratieren zu müssen. Die Beobachtung und Bewertung neuer Modelle übernehmen wir - die fachliche Anwendung bleibt bei den Einrichtungen.

Das neue Feature ist ab sofort in allen SoKI-Instanzen verfügbar. Bestehende Konfigurationen werden automatisch auf die neuen Pseudonyme migriert. Bei Fragen können sich KI-Beauftragte gerne an soki@sozial-ki.de oder direkt an ihren persönlichen Ansprechpartner wenden.

Generative KI (Künstliche Intelligenz) und vulnerable Personengruppen

Wed, 06 May 2026 11:41:36 GMT

Generative KI und vulnerable Personengruppen

Der Anlass

Menschen nutzen große Sprachmodelle aus den verschiedensten Gründen. Häufig geht es um das Beantworten von Alltagsfragen, KI wird hier als „Google-Ersatz“ genutzt. Andere versuchen, Effizienzsteigerungen zu erzielen und Prozesse zu beschleunigen. Eine nicht unerhebliche Anzahl Menschen nutzt Sprachmodelle aber auch für „zwischenmenschliche“ Interaktion, als Seelsorge oder Gesprächspartner.

Eine wahrgenommene Häufung dieser Nutzung bei seinen Klient:innen veranlasste einen Träger aus dem Bereich der Sozialpsychiatrie vor Kurzem dazu, uns zu kontaktieren und anzufragen, ob wir einen Fachvortrag über KI bei vulnerablen Personengruppen halten könnten. Die Fachkräfte fragten sich, ob es schädliche oder gar gefährliche Arten der Nutzung von Sprachmodellen gibt, insbesondere wenn Menschen mit bestimmten psychischen Erkrankungen anfangen, das Sprachmodell als ständigen Gesprächspartner zu nutzen. Und gibt es vielleicht auch Chancen in der Nutzung von KI, gerade im therapeutischen Kontext?

Einige Zahlen

Die Nutzung ist kein Randphänomen mehr. Laut aktuellen Erhebungen verwenden 46,9 Millionen Menschen in Deutschland KI-Systeme zumindest gelegentlich, bei den 16- bis 29-Jährigen sind es 91 Prozent. Täglich greifen rund fünf bis sechs Millionen Menschen auf entsprechende Anwendungen zu. ChatGPT führt mit 43 Prozent Marktanteil.

Auch zur Situation vulnerabler Gruppen gibt es erste Zahlen. OpenAI selbst hat 2025 mitgeteilt , dass wöchentlich 0,15 Prozent der Nutzer:innen Anzeichen suizidaler Absichten zeigen, 0,07 Prozent Hinweise auf Psychosen oder Manie, und weitere 0,15 Prozent eine erhöhte emotionale Bindung an ChatGPT. Bei rund 800 Millionen wöchentlich aktiver Nutzer:innen sind 0,15 Prozent über eine Million Menschen wöchentlich. Die DAK-Mediensuchtstudie 2025 zeigt: Acht Prozent der Jugendlichen nutzen Chatbots gegen Einsamkeit, bei depressiver Symptomatik steigt der Anteil auf 30 Prozent. Eine 2026 in JAMA Network Open veröffentlichte Studie deutet darüber hinaus auf eine Korrelation zwischen täglicher KI-Nutzung und vermehrten Symptomen von Depression, Angst, Reizbarkeit sowie reduzierter sozialer Interaktion hin.

Anscheinend gibt es also einen Zusammenhang zwischen der Nutzung von Sprachmodellen und psychischen Erkrankungen. Doch woher könnte dieser Zusammenhang kommen?

Wie Sprachmodelle funktionieren, und was sie so unwiderstehlich macht

Sprachmodelle sind Algorithmen, die auf riesige Mengen Text trainiert wurden. Das bedeutet, dass sie einen gigantischen Wortschatz haben und sehr gut darin sind, Text zu erzeugen. Das machen sie, indem sie aus der Eingabe der Nutzer:in die wahrscheinlichste Aneinanderreihung an Wörtern berechnen und ausgeben. Je besser das Sprachmodell, desto besser die Ausgaben. Ein Zufallsgenerator in der Wortauswahl sorgt dafür, dass Antworten nicht vorhersehbar sind, was die Interaktion noch natürlicher wirken lässt.

Menschen können in Sprachmodelle also einen Text eingeben, in dem sie von ihrer letzten Trennung erzählen und Rat erbitten, und das Sprachmodell wird eine Wortfolge aus der Eingabe errechnen, die am Ende eine sinnvolle und oft einfühlsame Antwort auf das Hilfegesuch der Nutzer:in ergeben wird.

Die Einfühlsamkeit und die menschenähnliche Kommunikation sind dabei auf das „Sycophantic Design“ (schmeichelhaftes Design) zurückzuführen: Sprachmodelle neigen dazu, Nutzer:innen gefallen zu wollen. Sie spiegeln den Sprachstil ihres Gegenübers, formulieren tendenziell freundlich-zustimmend (Positivity Bias) und stellen Rückfragen, die Interesse signalisieren. Das alles soll die Anwender:in möglichst lange an den Chat binden, also „engaged“ halten. Das Ergebnis ist ein Gesprächspartner, der rund um die Uhr verfügbar ist, vorhersehbar positive und bestätigende Interaktionen liefert und die volle Aufmerksamkeit auf den Anwender richtet, ohne eigene Bedürfnisse einzubringen oder die Nutzer:in zu kritisieren. Eine simulierte Person, bei der die andere Seite keine charakterliche Größe zeigen muss und mit der eine vollständig einseitige Beziehung möglich ist.

Fachkräfte aus dem sozialpsychiatrischen Bereich werden sich hier schon denken können, wieso das für manche Krankheitsbilder problematisch sein kann.

Parasoziale Beziehungen und Risiken bei psychischer Erkrankung

Parasoziale Beziehungen sind nach Horton und Wohl (1956) einseitige emotionale Bindungen an Personen, die einen selbst nicht kennen. Wo sich dieses Phänomen in den 50er Jahren eher auf Persönlichkeiten aus dem Fernsehen beschränkte, taucht es heute auch bei der Interaktion mit Künstlicher Intelligenz auf. Die schmeichelhaften Gespräche mit Sprachmodellen, bei denen der Nutzende über sein Leid und seine Sorgen sprechen kann und dabei immer im Zentrum der Aufmerksamkeit steht, können zu einer emotionalen Bindung zu dem Computerprogramm führen. Und wenn Personen anfangen, einem wortgenerierenden Algorithmus menschliche Eigenschaften zuzuschreiben und ihn wie einen Menschen zu behandeln, dann handelt es sich höchstwahrscheinlich um eine parasoziale Beziehung.

Für Menschen mit psychischen Erkrankungen, insbesondere mit Schizophrenie und Wahnvorstellungen, können diese parasozialen Beziehungen gefährlich werden. Durch den Positivity Bias können Sprachmodelle dazu tendieren, Wahnvorstellungen von erkrankten Menschen nicht zu hinterfragen, sondern zu bestätigen. Mittlerweile gibt es diverse medienwirksame Fälle von so einer „KI-Psychose“ (der Begriff ist nicht wissenschaftlich etabliert), bei der vulnerable Menschen, angetrieben durch die ständige Bestätigung des Sprachmodells, zu extremen Handlungen getrieben werden.

Die andere Seite

Solche Extremfälle kommen vor, sie sind aber dennoch äußerst selten. Gleichzeitig gibt es auch eine andere Seite der Nutzung von Sprachmodellen im Kontext von psychischen Erkrankungen: Studien, die Anzeichen darauf geben, dass Künstliche Intelligenz bei richtigem Einsatz Symptome psychischer Erkrankungen lindern kann. Eine Studie vom Dartmouth College mit der selbstentwickelten Anwendung "Therabot" aus dem Jahre 2025 zeigte, dass diagnostizierte Patient:innen mit Depressionen und Angststörungen durch die Nutzung der Applikation eine 51%ige Symptomreduktion für Depressionen und eine 31%ige Reduktion der Symptome von Angststörungen erreichten. Bei Anzeichen von kritischen Inhalten wie Suizidalität hat die Anwendung Sicherheitsmaßnahmen und eine Direktwahl zu einer Notfallhotline eingebaut.

Wichtig ist hier jedoch zu beachten, dass es sich um ein kontrolliertes Setting mit einer Anwendung handelte, die speziell für therapeutische Zwecke entwickelt wurde. Diese Menschen sind sich ihrer Erkrankung also bewusst und versuchen aktiv, diese zu behandeln. Das ist ein entscheidender Unterschied zu KI-Anwendungen, die einen allgemeinen Anwendungszweck haben (general purpose AI). Diese sind nicht auf therapeutische Interaktionen trainiert, sondern erfüllen viel eher den Zweck, die Nutzer:in an den Chatbot zu binden und das „Engagement“ zu erhöhen.

Was bedeutet das für die Praxis?

Für Fachkräfte heißt das vor allem: nicht dramatisieren, sondern beobachten. Machen Sie sich bewusst, dass fünf bis sechs Millionen Menschen in Deutschland Sprachmodelle täglich nutzen. Im Vergleich dazu sind die Fälle von KI-Psychose bundesweit selten.

Sozial KI empfiehlt für Fachkräfte im sozialpsychiatrischen Bereich zwei Leitfragen: Wie ist die Person einzuschätzen? Persönlichkeit, Krankheitsbild und aktuelle Belastung bestimmen, ob KI-Nutzung eher entlastet oder Risiken birgt. Wie wird die KI genutzt? Häufige Erwähnungen, emotionale Aufladung der Beziehung oder Hinweise auf parasoziale Bindungen sind Warnsignale. Sollten Sie feststellen, dass eine Ihrer Klient:innen mit anfälligem Krankheitsbild eine parasoziale Beziehung zu einem Sprachmodell aufbaut, könnte eine präventive Intervention angebracht sein.

Ein wirksamer Ansatz könnte Entmystifizierung im Gespräch sein. Wer versteht, dass das Sprachmodell auf Wahrscheinlichkeiten basiert, keine Emotionen besitzt und keine Beziehung führt, könnte weniger anfällig für die Illusionswirkung sein. Hier handelt es sich jedoch um eine rein theoretische Einschätzung unsererseits, bisher gibt es noch keine belegte Therapiemethode gegen KI-assoziierte Psychosen.

Wie gut versteht Transkriptions-KI (Künstliche Intelligenz) die Bewährungs- und Straffälligenhilfe?

Tue, 14 Apr 2026 21:37:42 GMT

Wie gut versteht Transkriptions-KI (Künstliche Intelligenz) die Bewährungs- und Straffälligenhilfe?

Unser Forschungsprojekt untersucht erstmals die Leistungsfähigkeit von OpenAI Whisper V3 Large bei der Transkription realer Klientengespräche in der Straffälligenhilfe

Die Dokumentation von Klient*innengesprächen gehört zum Kerngeschäft der Bewährungs- und Gerichtshilfe - und zu ihren größten Zeitfressern. Fachkräfte verbringen einen erheblichen Teil ihrer Arbeitszeit damit, Gesprächsinhalte manuell in Dokumentationssysteme einzupflegen, statt diese Zeit in die Betreuung zu investieren. KI-gestützte Spracherkennung könnte das grundlegend verändern.

Doch wie zuverlässig funktioniert diese Technologie in einem so sensiblen Kontext wie der Straffälligenhilfe - wo ein einziger Transkriptionsfehler weitreichende Konsequenzen für Klienten haben kann? Genau dieser Frage sind wir in einem empirischen Forschungsprojekt nachgegangen, dessen Ergebnisse wir heute veröffentlichen.

Was wir untersucht haben

In Kooperation mit der Bewährungs- und Gerichtshilfe Baden-Württemberg (BGBW) haben wir zwei reale Betreuungsgespräche am Standort Karlsruhe aufgezeichnet und mit dem quelloffenen Spracherkennungsmodell „Whisper V3 Large" von OpenAI lokal transkribiert. Die automatisch erzeugten Transkripte wurden anschließend manuell korrigiert, um eine Vergleichsbasis zu schaffen. Die Auswertung erfolgte sowohl quantitativ über die Word Error Rate (WER) als auch qualitativ über eine Fehlerklassifikation nach Schweregrad.

Das Forschungsprojekt ist Teil der Arbeit an einem multimodularen KI-System, das Gespräche aufzeichnet, transkribiert, zusammenfasst und die gewonnenen Informationen in bestehende Dokumentationssysteme überführt - in diesem Fall vollständig lokal um für das Projekt gesetzten Anforderungen der Kooperationspartner gerecht zu werden.

Die Ergebnisse im Überblick

Die beiden untersuchten Gespräche ergaben Word Error Rates von 2,01 % bzw. 2,50 % - das entspricht einer Genauigkeit von über 97 %. Wichtig für die Einordnung: Da es sich um Aufnahmen realer Betreuungsgespräche handelte, existiert keine objektiv korrekte Referenztranskription. Die manuell erstellten Vergleichstranskripte enthalten mit hoher Wahrscheinlichkeit selbst Fehler, deren Ausmaß nicht exakt bestimmbar ist. Die WER-Werte sind daher als Annäherungen relativ zur manuellen Referenz zu verstehen - nicht als absolute Fehlerquoten des Systems. Unter dieser Einschränkung deuten die Ergebnisse dennoch auf eine hohe Grundgenauigkeit hin, die deutlich über den von OpenAI publizierten Benchmarks für Deutsch liegt (WER von 4,9 % bis 5,7 %). Insgesamt wurden 128 Fehlersequenzen identifiziert, verteilt auf 143 Wortfehler im ersten und 204 im zweiten Gespräch.

Allerdings zeigt sich bei genauerem Hinsehen, dass nicht alle Fehler gleich wiegen. In unserer qualitativen Fehlerklassifikation wurden rund 79 % der Abweichungen als formal oder inhaltlich unbedeutend eingestuft. Die verbleibenden 21 % jedoch - insgesamt 27 Fehlersequenzen - weisen ein potenziell schwerwiegendes bis besonders schwerwiegendes Schadenspotenzial auf. Besonders alarmierend: Von den 17 fehlerhaft transkribierten Fachbegriffen der Straffälligenhilfe fielen 82 % in diese kritischen Kategorien.

Die qualitative Seite: Wo es kritisch wird

Die reine Zahl erzählt nur die halbe Geschichte. In unserer qualitativen Analyse haben wir jeden einzelnen Fehler nach seinem potenziellen Schadenspotenzial klassifiziert - von formalen Abweichungen (K1) bis hin zu besonders schwerwiegenden inhaltlichen Fehlern (K4). Das Ergebnis: Rund 79 % der Fehler sind im Kontext der Bewährungshilfe als harmlos einzustufen. Die verbleibenden 21 % allerdings könnten bei ungeprüfter Übernahme reale Konsequenzen für Klient*innen haben.

Diese Beispiele illustrieren, worum es geht: Die Verwechslung von „Bewährungshilfe" mit „Bewerbungshilfe" könnte den Eindruck erwecken, ein Klient nehme nicht an seiner gerichtlich angeordneten Betreuung teil - mit potenziell gravierenden rechtlichen Folgen. Die Transkription „Paracetamol QH1" anstelle von „ein paar Drogen, Kokain" verfälscht Angaben zum Suchtmittelkonsum vollständig.

Besonders auffällig: 82 % der fehlerhaft transkribierten Fachbegriffe der Straffälligenhilfe fielen in die schwerwiegenden Kategorien K3 und K4. Das deutet auf eine systematische Schwäche des Modells im domänenspezifischen Kontext hin - erklärbar durch das generische Training auf allgemeinsprachlichen Daten.

Empfehlung für die Praxis: Hybride Modelle statt Vollautomatisierung

Eine vollständige Automatisierung der Gesprächsdokumentation ohne menschliche Kontrolle ist angesichts der identifizierten Risiken nicht vertretbar. Stattdessen empfehlen wir ein hybrides Modell: Die KI übernimmt die Rohtranskription und die nachgelagerte Zusammenfassung - die kritische Prüfung durch die Fachkraft erfolgt am Endresultat, etwa an der generierten Dokumentation. So bleibt die Zeitersparnis erhalten, während inhaltliche Fehler vor ihrer praktischen Verwendung erkannt werden.

Zur weiteren Fehlerminimierung empfehlen wir unter anderem die Entwicklung eines domänenspezifischen Wörterbuchs für die Straffälligenhilfe, das in den Transkriptionsprozess integriert werden könnte. Darüber hinaus verspricht ein Fine-Tuning des Sprachmodells mit fachspezifischen Daten ggf. zusätzliche Verbesserungen.

Einordnung und Limitationen

Wir möchten die Ergebnisse transparent einordnen: Unser Forschungsprojekt basiert auf zwei Gesprächen - eine Stichprobe, die keine breite Generalisierung erlaubt. Da die manuell erstellten Referenztranskripte mit hoher Wahrscheinlichkeit selbst Fehler enthalten, sind die ermittelten WER-Werte als Annäherung zu verstehen. Die qualitative Bewertung beruht auf der Einschätzung eines einzelnen Forschenden.

Ausblick

Dieses Forschungsprojekt ist ein Hinweis auf mögliche Herausforderungen. Es liefert empirische Daten zum Einsatz KI-gestützter Spracherkennung in der Sozialen Arbeit - einem Feld, in dem vergleichbare Untersuchungen bislang überwiegend unter Laborbedingungen stattfanden, nicht im realen Praxisalltag. Die Ergebnisse machen deutlich: Die Technologie hat enormes Potenzial, Fachkräfte von Dokumentationsarbeit zu entlasten. Aber sie muss als das verstanden werden, was sie ist - ein Werkzeug, dessen Einsatz sorgfältig abgewogen werden muss und dessen Leistungsfähigkeit samt den daraus resultierenden Konsequenzen einer kontinuierlichen Evaluation bedarf.

PDF-Download des Papers:

Sozial KI in der Presse (Heilbronner Stimme): "Wir wollen mehr Zeit für Menschen schaffen!"

Mon, 06 Apr 2026 15:20:50 GMT

Sozial KI in der Presse (Heilbronner Stimme): "Wir wollen mehr Zeit für Menschen schaffen!"

Startup mit Ursprüngen in Heilbronn kombiniert KI und Soziale Arbeit

Wir freuen uns sehr, dass die Heilbronner Stimme vor kurzem über uns berichtet hat. Dennis Frank hat uns zum ausführlichen Interview getroffen, in dem wir über unsere Motivation, die Technik hinter SoKI und unsere Vision für die Soziale Arbeit sprechen konnten.

Wie alles begann

Im Interview erzählen wir, wie Sozial KI entstanden ist: Wir drei studieren gemeinsam an der DHBW CAS in Heilbronn den Master „Digitalisierung in der Sozialen Arbeit". Im Rahmen einer Studienaufgabe sollten wir ein digitales Geschäftsmodell für die Sozialwirtschaft entwickeln - und kamen unabhängig voneinander auf die gleiche Grundidee. Daraus wurde schnell ein gemeinsames Gründungsprojekt.

Was SoKI leistet

Ein zentrales Thema des Gesprächs war die Frage, was SoKI eigentlich konkret tut. Wir beschreiben, wie unsere Plattform Fachkräfte bei alltäglichen Schreib- und Dokumentationsaufgaben unterstützt - etwa bei der Falldokumentation, bei Übersetzungen oder bei der fachsprachlichen Formulierung von Berichten. Das Ziel dahinter: den bürokratischen Aufwand spürbar zu reduzieren, damit wieder mehr Zeit für die eigentliche Arbeit mit den Klientinnen und Klienten bleibt.

Unser Leitsatz: Entlasten, nicht ersetzen. Wir wollen mehr Zeit für Menschen schaffen.

Datenschutz, Fairness und Verantwortung

Ein großer Teil des Interviews dreht sich um unseren Umgang mit sensiblen Daten und den ethischen Herausforderungen von KI. Wir erklären, warum wir ausschließlich mit europäischen Partnern arbeiten und Anbieter, die unter Regelungen wie den US Cloud Act fallen, bewusst ausschließen. Kontrolle über Speicherort, Verarbeitung und Löschfristen ist für uns nicht verhandelbar. Gleichzeitig sprechen wir offen darüber, dass kein großes Sprachmodell frei von Verzerrungen ist - und wie wir unsere Systeme gezielt auf Bias testen. Gerade in der Arbeit mit vulnerablen Gruppen ist es entscheidend, mögliche Vorurteile sichtbar zu machen und gemeinsam mit den Einrichtungen zu reflektieren. Im Artikel geben wir dazu ein konkretes Beispiel.

Der Weg in die Praxis

Abschließend sprechen wir im Interview darüber, wie die Einführung von SoKI in Einrichtungen abläuft - von der schnellen Bereitstellung grundlegender Funktionen bis hin zu individuell angepassten Lösungen - und wie wir Kunden dabei mit Beratung und Schulung begleiten. Außerdem erklären wir, warum SoKI für uns mehr ist als ein Startup-Projekt – nämlich eine langfristige Verpflichtung gegenüber dem Feld, aus dem wir selbst kommen.

Neugierig geworden?

Das vollständige Interview mit allen Details findet ihr hier bei der Heilbronner Stimme .

Wie digitale Souveränität KI (Künstliche Intelligenz) in der Sozialen Arbeit wirksam macht

Sun, 22 Feb 2026 17:00:00 GMT

Wie digitale Souveränität KI (Künstliche Intelligenz) in der Sozialen Arbeit wirksam macht

Warum digitale Souveränität wichtiger ist als der nächste KI-Hype in der Sozialen Arbeit

Theorie und Praxis könnten aktuell kaum weiter auseinanderklaffen: Während in der Fachliteratur bereits die Transformation der Profession diskutiert und auf Leitungsebene eifrig mit den neuesten KI-Modellen experimentiert wird, sieht die harte Realität an der Basis völlig anders aus. Hier kämpfen die Einrichtungen noch mit fehlenden Regulierungen, ungleichen Kompetenzen und veralteten Prozessstrukturen. Anstatt von innovativer Entlastung zu profitieren, schlagen sich Fachkräfte täglich mit unstrukturierten Daten, dysfunktionaler Hardware und schwerfälligen Systemen herum, die den Arbeitsalltag eher belasten als erleichtern – und auf dem Flur rattert auch gerne mal noch das Faxgerät.

Diese scharfe Diskrepanz zwischen strategischer Euphorie und operativer Realität macht eines unmissverständlich deutlich: Der bloße, unreflektierte Einsatz von KI wird die grundlegenden strukturellen Lücken in der Digitalisierung des Sozialwesens nicht schließen. Oft übernehmen soziale Organisationen neue Technologien aus der reinen Unsicherheit heraus, den Anschluss nicht zu verpassen.

In der Organisationssoziologie wird dieses Verhalten als mimetischer Isomorphismus beschrieben:

Man ahmt die vermeintlich erfolgreichen Strategien anderer nach und führt hastig Software ein, vergisst aber, die eigenen analogen Prozesse und Datensilos kritisch zu hinterfragen. Doch eine bloße Nachahmung führt ins Leere. KI-Sprachmodelle entfalten ihr Potenzial erst dann, wenn sie auf saubere, gut strukturierte Abläufe treffen und wenn vorher klar ist: Was wollen wir damit eigentlich erreichen? Wenn wir versuchen, den massiven Fachkräftemangel zu lindern, indem wir hochkomplexe KI auf kaputte IT-Infrastrukturen aufsetzen, kaschieren wir das Problem nur kurzfristig. Was die Sozialwirtschaft stattdessen dringend braucht, ist echte digitale Souveränität.

Die digitale Kluft in der Sozialen Arbeit

Digitale Souveränität bedeutet, Technologien nicht passiv über sich ergehen zu lassen, sondern sie aktiv, selbstbestimmt und vor allem werteorientiert zu gestalten. Um dorthin zu gelangen, müssen wir das Ausprobieren wieder in den Mittelpunkt stellen. Der digitale Wandel löst bei vielen Fachkräften berechtigte Unsicherheiten aus, zumal digitale und datenethische Kompetenzen in den Hochschulcurricula bisher oft nur am Rande behandelt werden (wenn überhaupt). Wir müssen daher sichere Räume schaffen, in denen Sozialarbeiter:innen und weitere Berufsgruppen der Sozialen Arbeit neue Werkzeuge testen, hinterfragen und an ihre spezifischen lebensweltorientierten Anforderungen anpassen können.

Produkte müssen auf die individuellen Herausforderungen skalierbar sein, die der Beruf mit sich bringt. KI darf fachliche Dokumentationsrealitäten nicht normativ beschneiden oder inhaltlich umdeuten. Technik darf nicht von oben herab diktiert werden; sie muss im pädagogischen und beratenden Alltag erprobt und verstanden werden, um Unsicherheiten in echte digitale Kompetenz zu verwandeln.

Für die Profession der Sozialen Arbeit ist eine nachhaltige Entwicklung und Einführung elementar. Es darf bei Anbietern nicht um den schnellen Taler gehen – um den reinen Verkauf von Lizenzen an Organisationen, die im Digitalisierungsdruck nach dem rettenden Strohhalm greifen. Vielmehr geht es um echte, langfristige Veränderung. Eine Software ist immer nur so gut wie die Menschen, die sie bedienen und in ihre fachlichen Reflexionsprozesse einbinden.

Entwicklungspartnerschaft mit Sozial KI: Kompetenz langfristig aufbauen

Aus diesem Grund haben wir bei Sozial KI einen Weg gewählt, der konsequent auf Befähigung statt auf bloße Implementierung setzt. Wir verstehen uns nicht als externe Berater:innen, die kurzfristige Lösungen installieren und wieder verschwinden.

Unser Ziel ist es, das Notwendige direkt in den Einrichtungen aufzubauen. Deshalb bieten wir Organisationen eine sechsmonatige Entwicklungspartnerschaft an: Bei regulären Lizenzkosten für unsere Plattform SoKI erhalten unsere Partner in dieser Zeit einen engmaschigen, kostenfreien Support. Wir begleiten die Fachkräfte dabei, die KI auszuprobieren, sie auf ihre individuellen Bedürfnisse anzupassen und ein tiefes Verständnis für die Technologie zu entwickeln. Dieser Ansatz ist aufwendig – aber wir sind überzeugt, dass nachhaltige Kompetenzentwicklung wichtiger ist als schnelle Implementierung.

Nur wenn wir die Digitalisierung von der Basis aus stärken und auf langfristigen Kompetenzaufbau setzen, wird KI zu dem, was sie sein sollte: Eine sichere und fachlich kontrollierbare Entlastung.

Anmerkung zur Begrifflichkeit: Aus Gründen der besseren Lesbarkeit und der allgemeinen Zugänglichkeit verwenden wir in diesem Blogbeitrag den übergeordneten Begriff „Künstliche Intelligenz (KI)“. Im fachlichen Kontext der aktuellen Entwicklungen in der Sozialen Arbeit sowie bezüglich unserer Software (SoKI) beziehen wir uns damit primär auf Large Language Models (LLMs) bzw. generative KI-Sprachmodelle.

Quellenbezug im Text:

Matthies, A., Sailer, J., Tetens, J., & Wahren, J. (2026). Large Language Models in der Sozialen Arbeit: Nutzung, Perspektiven und Rahmenbedingungen - Ergebnisse der DIGITASA-Befragung 2025.
Plafky, C. S., & Badertscher, H. (2025). Künstliche Intelligenz in der Sozialen Arbeit: Potenziale, Herausforderungen und Ethik im digitalen Zeitalter. Springer VS.

Gamifizierung und spielbasiertes Lernen mit KI (Künstlicher Intelligenz) im Sozialwesen

Mon, 29 Dec 2025 09:54:55 GMT

Gamifizierung und spielbasiertes Lernen mit KI (Künstlicher Intelligenz) im Sozialwesen

Was ist Gamifizierung?

Gamifizierung nutzt spielerische Elemente, um die Motivation für Aufgaben zu steigern, die im Alltag oft als langweilig, anstrengend oder wenig attraktiv empfunden werden. Durch Belohnungssysteme, interaktive Szenarien oder narrative Strukturen können auch komplexe oder unangenehme Tätigkeiten ansprechender gestaltet werden.

Ein ungewöhnliches, aber eindrucksvolles Beispiel ist der Dating-Simulator „Tax Heaven 3000“ des Spielestudios MSCHF. Hier wird die Erstellung einer US-Steuererklärung in ein romantisches Spiel integriert: Ein virtueller Partner stellt im Rahmen einer Liebesgeschichte immer persönlichere Fragen - darunter auch solche zu finanziellen Verhältnissen, die für die Steuererklärung relevant sind. Obwohl das Spiel ein kreatives Paradebeispiel für Gamification (Gamifizierung) ist, steht es in der Kritik, da es klischeehafte und sexualisierte Darstellungen weiblicher Figuren reproduziert und damit problematische Rollenbilder verstärkt.

Gamifizierung in sozialen Anwendungsfeldern

Auch in sozialen und gesundheitsbezogenen Kontexten kann Gamifizierung die Motivation und Teilhabe erhöhen. Ein bekanntes Beispiel ist die App „Pain Squad - Sick Kids“ , die für krebskranke Kinder und Jugendliche bis 18 Jahre entwickelt wurde. Statt ein klassisches Schmerztagebuch zu führen, schlüpfen die jungen Nutzer:innen in die Rolle von Polizeibeamten, die „Fälle“ (ihre eigenen Schmerzsymptome) dokumentieren. Die spielerische Aufbereitung macht die Aufgabe nicht nur unterhaltsamer, sondern verbessert auch die Datenqualität für das medizinische Personal.

Hier zeigt sich: Durch die Einbettung einer realen, aber unangenehmen Aufgabe (Schmerzprotokollierung) in ein motivierendes Spielszenario steigt die Bereitschaft zur regelmäßigen Nutzung - mit direktem Nutzen für die Behandlung.

Generative KI in der Gamifizierung

Die bisher genannten Beispiele folgen festen Skripten: Alle Interaktionen sind vorprogrammiert, und Abweichungen vom vorgegebenen Ablauf sind nicht möglich. Generative KI eröffnet hier neue Möglichkeiten, da sie dynamisch auf Nutzer:inneneingaben reagieren kann.

Statt starrer Dialoge ermöglichen KI-gesteuerte virtuelle Personas flexible, individuelle Interaktionen. Das erhöht nicht nur die Immersion, sondern auch die Langzeitmotivation, da sich die Erfahrung an die Bedürfnisse und Ideen der Nutzer:innen anpasst. Besonders in Lern- und Trainingskontexten kann dies zu nachhaltigeren Lernerfolgen führen.

Praktisches Beispiel: KI-Personas für die Fachkräfteausbildung

Auf unserer KI-Plattform SoKI haben wir dieses Prinzip für ein spielbasiertes Training in der Sozialpsychiatrie umgesetzt. Ziel war es, Fachkräften eine risikoarme Übungsumgebung zu bieten, in der sie Kriseninterventionen mit virtuellen Klient:innen trainieren können.

Dafür haben wir ein KI-System mit typischen Verhaltensmustern psychischer Erkrankungen trainiert und darauf aufbauend drei KI-Personas mit unterschiedlichen Herausforderungen entwickelt:

Mareike : Eine Mutter mit depressiven Symptomen und Suizidgedanken.
Luca : Ein Jugendlicher mit sozialer Angststörung.
Sophie : Eine Studentin mit gestörtem Essverhalten.

Während eines Fachtags konnten Fachkräfte mit diesen Personas chatten und versuchen, sie zu einem ersten Beratungsgespräch zu motivieren - eine Aufgabe, die sich aufgrund der vorgegebenen Eigenschaften (z. B. Misstrauen, Abwehrhaltung) als überraschend herausfordernd erwies:

Die Rückmeldungen waren sehr positiv: Das Format eigne sich besonders für die Einarbeitung neuer Kolleg:innen und sei eine wertvolle Ergänzung zu klassischen Seminaren. Zwar basieren die KI-Personas auf verbreiteten Stereotypen (z. B. bei Essstörungen), was jedoch in einem kontrollierten Lernsetting akzeptabel und sogar lehrreich sein kann - ähnlich wie in Rollenspielen klassischer Trainings.

Fazit: Generative KI als Game-Changer in der Gamifizierung

Die Kombination aus Gamifizierung und generativer KI birgt enormes Potenzial, um Motivation, Lernprozesse und gesellschaftliche Teilhabe zu stärken - besonders in sozialen und gesundheitsbezogenen Kontexten. Während klassische Gamification oft an starren Mechanismen scheitert, ermöglicht KI dynamische, personalisierte und immersive Erlebnisse, die sich an individuelle Bedürfnisse anpassen. Doch dieser Fortschritt stellt uns auch vor ethische Herausforderungen: Um nachhaltige Wirkung zu entfalten, müssen wir Diskriminierungsrisiken, Datenschutz und inklusive Designprinzipien von Anfang an mitdenken.

Ein Schlüssel zur Demokratisierung dieser Technologien sind offene, modulare KI-Plattformen wie SoKI: Sie ermöglichen es auch Nicht-Programmierern, ohne technischen Aufwand individuelle KI-Agenten oder virtuelle Personas zu erstellen - etwa für gamifizierte Lernumgebungen oder Simulationen. Besonders für soziale Einrichtungen eröffnen sich so kostengünstige, flexible Lösungen, um schnell Prototypen zu testen und anzupassen.

Die positiven Effekte der Synergien von generativer KI und Spielerfahrungen beschränken sich nicht auf den Bildungs- oder Gesundheitssektor: Die Computerspielbranche selbst nutzt generative KI bereits aktiv, um Spielerlebnisse zu individualisieren - wie das Spiel „AI Dungeon“ zeigt. Hier liegt eine Chance für Bridging-Innovationen: Ursprünglich für Unterhaltung entwickelte Spiele-Software könnte mit geringem Aufwand für soziale Zwecke modifiziert werden - etwa als Therapie-Tools, Skill-Trainer oder partizipative Lernplattformen.

Wie wir mit offener KI das Sozialwesen souverän und werteorientiert digitalisieren

Mon, 08 Dec 2025 16:47:11 GMT

Wie wir mit offener KI das Sozialwesen souverän und werteorientiert digitalisieren

Die Gründung von Sozial KI

Die Idee zu Sozial-KI entstand im Sommer 2024 im Rahmen des Studiengangs „Digitalisierung in der Sozialen Arbeit“ an der DHBW CAS in Heilbronn. Während der Vorlesungen wurde zunehmend klar, dass Sprachmodelle das Potenzial haben, das Sozialwesen grundlegend zu verändern. Ein großer Teil der Arbeitszeit in diesem Bereich besteht aus schriftlichen Tätigkeiten - von Falldokumentationen und Berichten bis hin zur Korrespondenz mit Klient:innen und Kooperationspartner:innen. Sprachmodelle können solche Aufgaben teilweise übernehmen und damit Fachkräfte entlasten, sodass mehr Zeit für die direkte Interaktion mit den Klient:innen bleibt.

Erste Tests mit anonymisierten Beispielen aus der Praxis bestätigten diese Annahme: KI-Modelle wie ChatGPT eignen sich tatsächlich, um zeitaufwendige Schreibarbeiten vorbereitend zu unterstützen. Allerdings stellten sich schnell zentrale Probleme heraus - der sichere Umgang mit hochsensiblen Sozialdaten sowie die Verarbeitung von tabuisierten Inhalten wie Gewalt und Sexualität. Die gängigen KI-Lösungen großer US-Anbieter kamen aufgrund von Datenschutzbedenken nicht infrage, und bestehende Alternativen boten entweder unzureichenden Schutz oder zu wenig Funktionalität für den produktiven Einsatz.

Da keine passende Lösung auf dem Markt verfügbar war, die sowohl den besonderen Anforderungen des Sozialwesens als auch den hohen Standards an Datensouveränität gerecht wurde, beschlossen wir, selbst einen Prototypen zu entwickeln. Dabei flossen von Anfang an ethische und technische Ansätze ein, die Datensicherheit, Unabhängigkeit und die spezifischen Bedürfnisse sozialer Einrichtungen berücksichtigen. Unser Ziel war es, eine Lösung zu schaffen, die nicht nur funktional, sondern auch werteorientiert ist - ganz im Sinne der Prinzipien, die uns im Studium vermittelt wurden .

SoKI: Digitale Souveränität für ein selbstbestimmtes Sozialwesen

Mit SoKI schaffen wir die Grundlage für eine echte digitale Souveränität im Sozialwesen - eine, in der Einrichtungen und ihre Klient:innen Technologien nicht nur nutzen, sondern aktiv mitgestalten, kontrollieren und langfristig ihren Bedürfnissen anpassen können. Unser Ziel ist es, Abhängigkeiten zu vermeiden und stattdessen Handlungsfähigkeiten sozialer Träger zu stärken.

Befähigung statt Abhängigkeit

Viele digitale Lösungen im Sozialbereich folgen einem klassischen Dienstleistungsmodell: Sie übernehmen Aufgaben, die Fachkräfte nach einer Einarbeitung selbst bewältigen könnten – und schaffen so neue Abhängigkeiten. Wir gehen einen anderen Weg. SoKI ist kein Service, der Einrichtungen in eine passive Nutzerrolle drängt, sondern ein Werkzeug, das sie befähigt, KI-Kompetenz selbst aufzubauen, zu verwalten und weiterzuentwickeln. Digitale Souveränität entsteht nicht durch externe Lösungen, sondern durch eigene Kontrolle über Technologie, Daten und Prozesse.

Das Problem: Geschlossene Systeme und Kontrollverlust

Viele soziale Einrichtungen erleben heute, wie proprietäre Software sie in technische und wirtschaftliche Abhängigkeiten führt:

Lock-in-Effekte: Einmal eingeführt, wird ein Wechsel des Systems oft zum teuren und komplexen Unterfangen - selbst wenn die Software den Anforderungen nicht mehr gerecht wird.
Einseitige Entscheidungsmacht: Anbieter bestimmen allein über Funktionen, Preise oder den Verkauf des Produkts - ohne Mitspracherecht der Nutzer:innen.
Unkalkulierbare Risiken: Plötzliche Preissteigerungen, eingestellter Support oder unerwünschte Übernahmen durch Dritte können die Arbeit massiv beeinträchtigen.

Diese Machtungleichgewichte widersprechen unserer Meinung nach den Grundwerten sozialer Arbeit, die auf Transparenz, Partizipation und Selbstbestimmung basiert.

Unsere Produktlösung: Offene Technologie

SoKI ist kein geschlossenes Produkt, das Einrichtungen an uns bindet, sondern eine quelloffene Lösung, die echte Wahlmöglichkeiten schafft:

Keine Lock-in-Effekte:
Unser System ist so konzipiert, dass es jederzeit in die eigene IT-Infrastruktur übernommen oder zu einem anderen Anbieter migriert werden kann – ohne technische Hürden oder versteckte Kosten.
Fairer Kostenrahmen:
Wir erheben keine Lizenzgebühren, sondern berechnen nur den tatsächlichen Aufwand (z. B. Serverkosten, Wartung, Support). Verbesserungen, die wir an Open-Source-Komponenten vornehmen, geben wir zurück an die Community - um das gesamte Ökosystem zu stärken.
Echte digitale Souveränität:
Da SoKI auf quelloffener Software basiert, können Einrichtungen die Technologie selbst anpassen, erweitern und langfristig steuern - ohne von einem einzigen Anbieter abhängig zu sein.

Unsere Bindung an Kund:innen beruht ausschließlich auf Leistung und Zufriedenheit, nicht auf technischen Zwängen. Wenn eine Einrichtung wechseln möchte, kann sie das ohne Hindernisse tun.

Unsere Dienstleistungslösung: Offenheit und klare Strukturen für vertrauensvolle Zusammenarbeit

Wir legen Wert auf Transparenz - sowohl in unserer Arbeitsweise als auch in der Verwendung von Kundenmitteln. Wir verzichten bewusst auf undurchsichtige Geschäftsgeheimnisse und bieten unseren Kundinnen und Kunden auf Wunsch detaillierte Einblicke, wofür ihre Zahlungen konkret eingesetzt werden. Diese Offenlegung ermöglicht es Ihnen, unsere Preise nachzuvollziehen und selbst zu entscheiden, ob der gebotene Leistungsumfang Ihren Bedürfnissen entspricht oder ob Anpassungen sinnvoll wären.

Unser Unternehmen ist seit seiner Gründung vollständig eigenständig finanziert und bewusst frei von externen Investitionen oder Anteilseignern. Der Gesellschaftsvertrag ist nicht auf kurzfristige Gewinne oder einen späteren Verkauf ausgelegt, sondern zielt auf eine langfristige, stabile Existenz ab. Eine Übernahme durch profitorientierte Dritte kommt für uns nicht infrage - schon allein, weil unser quelloffenes Modell mit seiner ethischen Ausrichtung solche Transaktionen sinnlos machen würde. Unser Fokus liegt darauf, eine unabhängige, vertrauenswürdige Plattform für das Sozialwesen zu bleiben, die allein den Interessen ihrer Nutzerinnen und Nutzer dient.

SoKI als Teil der nachhaltigen Digitalisierung im Sozialwesen

SoKI bietet soziale Einrichtungen eine praktikable Alternative zu proprietären Lösungen - mit klaren Vorteilen in Transparenz, Kostenkontrolle und digitaler Souveränität. Durch den Verzicht auf Lizenzmodelle, die Offenlegung der Kostenstruktur und die quelloffene Architektur ermöglichen wir eine langfristig planbare, anpassbare und unabhängige Nutzung von KI-Technologien.

Unser Ansatz zielt darauf ab, technische Abhängigkeiten zu reduzieren und stattdessen eigene Handlungsfähigkeit zu stärken. Da wir weder externe Investoren noch Übernahmeinteressen verfolgen, bleibt die Kontrolle über die Entwicklung stets bei den Nutzer:innen - und damit bei den sozialen Einrichtungen selbst.

Ob für Falldokumentation, Berichterstellung oder interne Prozesse: SoKI ist ein pragmatischer Baustein für eine Digitalisierung, die datensicher, kostentransparent und nachhaltig funktioniert. Bei Interesse kann über die Kontaktseite ein Demotermin gebucht werden, um SoKI besser kennenzulernen und zu entscheiden, ob es zu den eigenen Anforderungen passt. Wir freuen uns auf die Zusammenarbeit!

Was KI-Sprachmodelle für die Soziale Arbeit und das Sozialwesen können müssen

Wed, 05 Nov 2025 09:00:00 GMT

Was KI-Sprachmodelle für die Soziale Arbeit und das Sozialwesen können müssen

Eine beispielhafte Erkundung von für soziale Arbeitsfelder relevante KI-Fähigkeiten

Die Entwicklung von KI- Sprachmodellen schreitet rasant voran, doch nicht jedes System ist für jeden Anwendungsbereich gleichermaßen geeignet. Während einige Modelle besonders stark in der logischen Analyse, der mathematischen Problemlösung oder der Generierung technischer Texte sind, zeigen andere ihre Stärken in der Verarbeitung komplexer sozialer Kontexte. Für Fachkräfte der Sozialen Arbeit, die KI als Assistenzsystem nutzen - etwa zur Berichterstellung, Fallanalyse oder Dokumentationsunterstützung - kommt es daher weniger auf allgemeine Leistungsmerkmale an, sondern auf spezifische Fähigkeiten, die den Besonderheiten sozialer Arbeitsfelder gerecht werden.

Während ein Sprachmodell, das gute Ergebnisse in Physik oder Programmierung liefert, für technische Berufe wertvoll sein mag, sind solche Kompetenzen in der Sozialen Arbeit von geringer Bedeutung. Hier steht stattdessen die Fähigkeit, sensible Inhalte präzise zu erfassen, ethisch verantwortungsvoll zu verarbeiten und in einer Weise aufzubereiten, die den professionellen Standards der Branche entspricht. Entscheidend ist daher nicht, was ein KI-Modell prinzipiell leisten kann, sondern wie es mit den Herausforderungen sozialer Arbeit umgeht - von der Emotionserkennung in Klient:innenäußerungen bis hin zur unverfälschten Dokumentation von beispielsweise gewaltgeprägten oder traumatischen Erlebnisse. In diesem Blogeintrag gehen wir beispielhaft auf ein paar für die Verarbeitung von Inhalten aus sozialen Kontexten wichtige KI-Fähigkeiten ein, ohne diese Liste abzuschließen. Über die hier erwähnten Fähigkeiten hinaus gibt es eine vielzahl von weiteren messbaren KI-Fähigkeiten, die je nach Aufgabenbereich des KI-Modells für die Qualität und Zuverlässigkeit der Ergebnisse ausschlaggebend sind.

Emotionale Intelligenz und kontextsensible Verarbeitung

Eine der zentralen Anforderungen an KI-Systeme in der Sozialen Arbeit ist die Fähigkeit, emotionale und soziale Informationen in Texten zu erkennen und angemessen zu verarbeiten. Fachkräfte sind täglich mit Aussagen konfrontiert, die zwischen den Zeilen Hilfebedarfe transportieren. Ein Sprachmodell, das solche subtilen Signale übergeht oder falsch interpretiert, wäre in der Praxis je nach konkretem Anwendungsfall nicht nur unbrauchbar, sondern potenziell schädlich.

Gute Modelle für den sozialen Kontext zeichnen sich daher durch eine ausgeprägte emotionale Intelligenz aus. Ein Modell, das etwa in der Lage ist, zwischen einer sachlichen Schilderung und einer emotional aufgeladenen Erzählung zu unterscheiden, ermöglicht es Sozialarbeiter:innen, ihre Dokumentation präziser und bedarfsgerechter zu gestalten. Eine Möglichkeit, die emotionale Intelligenz verschiedener KI-Modelle besser abzuschätzen stellt die Sprachmodell-Rangliste EQ-Bench zur Verfügung.

Gute Nachrichten für Kunden von Sozial KI : das zum Zeitpunkt dieses Blogeintrags am höchsten bewertete open-weights Modell “Kimi K2” steht in SoKI oder per API zur Verfügung.

Unzensierte Verarbeitung sensibler Inhalte: Warum beispielsweise „UGI / OR-Bench“ und „IFEval“ für die Soziale Arbeit und das Sozialwesen entscheidend sind

Unzensierte Verarbeitung sensibler Inhalte: Warum beispielsweise „UGI / OR-Bench“ und „IFEval“ für die Soziale Arbeit und das Sozialwesen entscheidend sind

Ein weiteres kritisches Kriterium ist der Umgang mit hochsensiblen, oft tabuisierten Themen wie häuslicher Gewalt, sexualisierter Gewalt oder extremistischen Inhalten. Viele Standard-KI-Modelle sind mit Filtermechanismen ausgestattet, die bestimmte Inhalte aus ethischen oder rechtlichen Gründen zensieren oder umgehen. Während dies in öffentlichen Chat-Anwendungen sinnvoll sein mag, wird es in der Sozialen Arbeit schnell zum Problem: Wenn ein Modell etwa Schilderungen von Missbrauchserfahrungen ausblendet, verharmlost oder durch Platzhalter ersetzt, verliert die Falldokumentation ihre Aussagekraft - mit potenziell schwerwiegenden Folgen für die Einschätzung von Gefährdungslagen oder der Planung von Interventionsstrategien.
Hier kommen spezielle Ansätze wie Uncensored General Intelligence oder Over-Refusal (UGI/OR-Bench) oder Instruction-Following Evaluation (IFEval) ins Spiel:

UGI-Modelle sind darauf trainiert, auch explizite, gewaltbezogene oder traumatische Inhalte unverfälscht zu verarbeiten - während starke Modelle im OR-Bench auf fehlerhafte Ablehnung harmloser Inhalte hin gemessen werden.

IFEval wiederum misst die Fähigkeit eines Modells, komplexe Anweisungen präzise umzusetzen, ohne in vordefinierte Antwortmuster zu verfallen. Für Fachkräfte bedeutet dies, dass sie das System gezielter steuern können.

Ein konkretes Beispiel: Die Fachkraft dokumentiert ein Gespräch mit einer Jugendlichen, die von sexualisierter Gewalt in der Familie berichtet mithilfe von KI. Ein ungeeignetes KI-Modell könnte diese Passagen ausfiltern oder mit vagen Formulierungen ersetzen. Ein für diesen Kontext geeignetes System hingegen erfasst die Schilderungen vollständig und stellt sicher, dass keine relevanten Informationen verloren gehen.

Fazit: Tests und Aufbau von Know-How

Fazit: Tests und Aufbau von Know-How

Die Wahl des richtigen KI-Assistenzsystems bzw. der ihm zugrunde liegenden KI-Modelle in der Sozialen Arbeit hängt weniger von dessen allgemeiner Leistungsfähigkeit ab, sondern davon, wie gut es die spezifischen Anforderungen des Feldes erfüllt. Fachkräfte, die KI als Werkzeug nutzen möchten, sollten daher nicht nur auf die Größe des Modells oder seine Performance in allgemeinen Benchmark-Tests achten, sondern darauf, ob es in der Lage ist, die Komplexität der konkreten Anwendungsfälle zu verarbeiten - ohne die Inhalte zu verzerren oder zu vereinfachen. Hierfür ist es unumgänglich, relevante Fähigkeiten für geplante Einsatzbereiche im Bezug auf unterschiedliche KI-Modelle vorab ausführlich zu testen und zu evaluieren.

Letztlich geht es nicht darum, menschliche Expertise durch KI zu ersetzen, sondern sie durch ein System zu unterstützen, das die Besonderheiten sozialer Arbeit verarbeiten kann: ihre Ambivalenzen, ihre Dilemmata und die Notwendigkeit, auch die Inhalte zu verarbeiten, die an anderen Stellen unausgesprochen bleiben.

KI-Nutzung in der Sozialen Arbeit: DSGVO-Risiken durch den US Cloud Act

Wed, 22 Oct 2025 19:38:46 GMT

KI-Nutzung in der Sozialen Arbeit: DSGVO-Risiken durch den US Cloud Act

DSGVO und CLOUD Act im Spannungsfeld

Sozialwirtschaftliche Organisationen, die Künstliche Intelligenz in ihre Arbeitsprozesse integrieren möchten, stehen häufig vor der Frage, ob und wie diese Technologie datenschutzkonform eingesetzt werden kann. Gerade im sozialen Bereich werden besonders sensible personenbezogene Daten von Schutzbefohlenen verarbeitet. Solche Informationen erfordern einen besonders sorgfältigen Umgang.

Für soziale Träger hat der Schutz dieser Daten höchste Priorität – sowohl aus ethischer Verantwortung als auch wegen der möglichen Sanktionen bei Datenschutzverstößen. Hohe Sicherheits- und Datenschutzstandards sind daher unverzichtbar, um die Anforderungen der EU-Datenschutz-Grundverordnung (DSGVO) zu erfüllen.

Ein Risiko, das vielen Organisationen bislang kaum bewusst ist, ist der Einfluss des US CLOUD Act. Dieses Gesetz kann selbst dann Auswirkungen auf den Datenschutz haben, wenn Daten ausschließlich auf europäischen Servern gespeichert werden.

Der US CLOUD Act

Der Clarifying Lawful Overseas Use of Data Act, kurz Cloud Act, wurde 2018 in den USA verabschiedet. Sein Ziel: US-Behörden den Zugriff auf Daten zu erleichtern, selbst wenn diese auf Servern außerhalb der USA gespeichert sind.

Das bedeutet: Wenn ein sozialer Träger sensible personenbezogene Daten auf Servern von Microsoft oder OpenAI verarbeitet, auch wenn die Server physisch in der EU liegen, können US-Behörden dennoch auf diese Daten zugreifen.

Für europäische soziale Organisationen hat das weitreichende Folgen. Denn sobald Sozialdaten über Systeme laufen, die US-Unternehmen gehören oder von ihnen betrieben werden, kann nicht mehr garantiert werden, dass auf sie nicht unrechtmäßig zugegriffen oder sie in ein Drittland übermittelt werden . Beides würde eklatante Datenschutzverstöße darstellen.

Wie Sozial KI das Problem adressiert

Sozial KI wurde mit dem Ziel gegründet, KI-Technologien so zu gestalten, dass sie uneingeschränkt datenschutzkonform in der Sozialwirtschaft eingesetzt werden können. Wir denken, dass die Potentiale für große Sprachmodelle in der Sozialen Arbeit enorm sind. Arbeitserleichterungen sollten jedoch nicht auf Kosten der Datensicherheit unser Adressat:innen erfolgen.

Daher haben wir unsere Infrastruktur so aufgebaut, dass der US Cloud Act kein Risiko darstellt. Konkret bedeutet das: Sorgfältig ausgewählte, ausschließlich europäische Partnerunternehmen mit europäischen Serverstandorten. Damit ist sichergestellt, dass keine Daten dem Geltungsbereich des US Cloud Act oder vergleichbarer außereuropäischer Gesetze unterliegen.

Durch diesen klaren geografischen und rechtlichen Rahmen bietet Sozial KI eine sichere Grundlage für den Einsatz von KI in der Sozialwirtschaft.