Unzensierte KI-Modelle für die Arbeit mit sensiblen und belastenden Inhalten in der sozialen Fallarbeit

Soziale Arbeit findet oft dort statt, wo Menschen Gewalt, Missbrauch, Vernachlässigung oder Straftaten erlebt haben oder selbst zu Täter:innen geworden sind. Wer im Kinderschutz arbeitet, in der Opferhilfe, in der Täterarbeit, im Frauenhaus oder in der Straffälligenhilfe, bearbeitet täglich Inhalte, die belastend, drastisch und mitunter strafrechtlich relevant sind: Schilderungen sexualisierter Gewalt in Gesprächsprotokollen, Gewaltdynamiken in Gefährdungseinschätzungen, Tatdetails in der Fallanalyse.

Genau an diesen Stellen versagen viele KI-Systeme. Wer ein öffentlich zugängliches Sprachmodell bittet, das Protokoll eines Erstgesprächs nach einer Gewalterfahrung zusammenzufassen oder eine Gefährdungseinschätzung zu strukturieren, erhält nicht selten eine Ablehnung: Die Inhalte werden vom Modell als schädlich eingestuft, die Bearbeitung wird verweigert. Zwei Reaktionsmuster prägen dabei die Praxis:

Im besten Fall ist die Ablehnung sichtbar. Das Modell meldet zurück, dass es die Aufgabe nicht übernimmt. Das unterbricht den Arbeitsfluss und kostet Zeit, ist aber transparent: Die Fachkraft weiß, woran sie ist, und kann anders weiterarbeiten.

Im schlechtesten Fall arbeitet das Modell weiter und verändert dabei die Inhalte. Passagen, die das Modell als schädlich erkennt, werden stillschweigend unterschlagen, abgeschwächt oder umschrieben. Aus massiver körperlicher Gewalt wird ein „Konflikt", aus einer konkreten Bedrohung eine „angespannte Situation". In der Falldokumentation ist das ein fachliches Risiko: Eine Zusammenfassung, die Gewalt verharmlost, kann Einschätzungen verzerren und Schutzmaßnahmen verzögern.

Warum Standard-Modelle so reagieren

Ein Sprachmodell, das Texte mit illegalen oder drastischen Inhalten verarbeiten kann, kann von seiner Architektur her grundsätzlich auch solche Inhalte erstellen. Anbieter öffentlich zugänglicher Modelle schützen sich vor diesem Missbrauchspotenzial durch restriktives Sicherheitstraining. So gut wie alle frei verfügbaren Modelle sind in diesem Sinne zensiert, und für die breite Öffentlichkeit ist diese Vorsicht angemessen und richtig.

In der Fallarbeit sozialer Einrichtungen kippt dieselbe Vorsicht jedoch in ein kontextbedingtes Overrefusal: Die Ablehnung trifft legitime, fachlich notwendige Arbeit. Soziale Arbeit bedeutet häufig die Bearbeitung eines großen Maßes an menschlichem Leid. Ein Werkzeug, das genau davor zurückweicht oder es unsichtbar macht, versagt dort, wo Unterstützung dringend gebraucht wird.

Unzensierte Modelle für geprüfte Einsatzzwecke

Um diese Lücke zu schließen, stellt Sozial KI in SoKI für die Bearbeitung dieser Themenkomplexe auch unzensierte Sprachmodelle bereit: Modelle, die belastende und sensible Inhalte vollständiger, präziser und weitestgehend ohne Verharmlosung verarbeiten, statt sie abzulehnen oder zu entschärfen.

Wir sagen dabei offen: Von diesen Modellen geht ein ehrhöhtes Risiko bei Zweckentfremdung aus. Die unrestriktive Bearbeitung von Anfragen kann missbraucht werden, und die einfache Bedienbarkeit von Sprachmodellen in Alltagssprache senkt die Hürde für einen solchen Missbrauch zusätzlich. Genau deshalb behandeln wir diese Funktion anders und versehen sie mit zusätzlichen Sicherheitsschranken.

Wie der Zugang geregelt ist

Prüfung vor Bereitstellung. Unzensierte Modelle werden nicht pauschal freigeschaltet. Der Zugang erfolgt erst nach konkreter Prüfung der Use-Cases und der Feststellung legitimer, angebrachter Zwecke. Jede Freischaltung ist eine Einzelfallentscheidung auf Basis sorgfältiger Vorab-Prüfungen und Machbarkeitsstudien zum konkreten Anwendungsfall.

Zugang nur für geschulte Fachkräfte. Gemeinsam mit der Einrichtung stellen wir sicher, dass der Personenkreis mit Zugang zu diesen spezialisierten Modellen eng begrenzt, vertrauenswürdig, fachlich qualifiziert und geschult ist. Die Schulung umfasst die Bedienung ebenso wie den reflektierten Umgang mit den Risiken.

Zusätzliche Schutzmaßnahmen je nach Einsatzszenario. In Absprache mit der Einrichtung halten wir weitere Maßnahmen bereit: etwa erweiterte Filter, die Anfragen vor der Übermittlung an die Modelle auf Plausibilität im Hinblick auf die Aufgaben der Einrichtung prüfen, oder erweitertes Logging und Reviews, wo Overrides der Sicherheitslayer bereitgestellt werden.

Keine Garantie auf Bereitstellung. Um ein angemessenes Sicherheitsniveau zu wahren, behalten wir uns die Entscheidung in jedem Einzelfall vor. Das schließt die Entscheidung gegen eine Bereitstellung ausdrücklich ein.

Rechtlicher Rahmen: Was wir aktuell leisten können

Auch wir sind den sich stetig wandelnden rechtlichen Rahmenbedingungen unterworfen und können nur Leistungen anbieten, die wir in unserem Setting legal bereitstellen dürfen. Was möglich ist, hängt einerseits davon ab, was der Gesetzgeber in diesem Bereich zulässt, und andererseits davon, was im Rahmen der Vertragsbedingungen mit unseren Partnern technisch umgesetzt werden kann.

Aktuell befinden wir uns in der glücklichen Lage, diese Technologie unter strengen Sicherheitsanforderungen in Einzelfällen bereitstellen zu können. Dabei können wir auf verhältnismäßig sehr große und leistungsstarke unzensierte Sprachmodelle (400+ Milliarden Parameter) zurückgreifen. Dies gilt ohne Garantien und vorbehaltlich jederzeitiger Änderungen.

Der Weg zum Einsatz

Anders als einige andere SoKI-Funktionen lassen sich unzensierte Modelle nicht selbstständig durch KI-Beauftragte freischalten. Einrichtungen, die in ihrer Arbeit einen entsprechenden Bedarf sehen, wenden sich an soki@sozial-ki.de oder direkt an ihren persönlichen Ansprechpartner. Gemeinsam prüfen wir den konkreten Anwendungsfall und finden dort, wo es fachlich geboten und verantwortbar ist, einen Weg.