SoKI Swarm: Ein koordiniertes Team aus KI-Agenten analysiert umfangreiche Fallakten
SoKI Swarm: Ein koordiniertes Team aus KI-Agenten analysiert umfangreiche Fallakten
Seit der Gründung von Sozial KI stoßen wir in der Sozialen Arbeit immer wieder auf Herausforderungen, die mit unseren bisherigen technischen Ansätzen zunächst kaum leistbar scheinen. Hier sind kreative Lösungen gefragt. Vor allem die geschickte Verkettung von Sprachmodellen mit deterministischen Algorithmen eröffnet neue Möglichkeiten. Erst diese Kombination ermöglicht Ergebnisse in einer Qualität, die zuvor nicht erreicht werden konnte
Heute zeigen wir das am Beispiel einer Herausforderung: der Analyse langer Dokumente wie Fallakten.
Das Problem: Fallakten und Dokumente wachsen über Jahre
In der sozialen Arbeit wachsen Dokumente und Fallakten über die Zeit an. Eine Fallakte versammelt Hilfepläne, Stellungnahmen, Gesprächsprotokolle, Vermerke zu Hausbesuchen und Berichte verschiedener Dienste. Je nach Fall kann sie mehrere hundert Seiten umfassen, geschrieben und angelegt von wechselnden Fachkräften in unterschiedlichen Situationen.
Die Antworten auf wichtige fachliche Fragen stehen dabei selten an einer Stelle. Sie verteilen sich über die gesamte Akte. Wer wissen möchte, welche Muster sich über die Jahre wiederholen, welche Absprachen zu einem Thema getroffen wurden oder was in einer bestimmten Phase dokumentiert ist, müsste eigentlich alles gründlich lesen, nicht nur querlesen. Im dichten Alltag sozialer Organisationen ist das kaum leistbar. Wichtige Zusammenhänge bleiben so aus Zeitmangel unentdeckt.
Warum ein einzelner KI-Aufruf diese Aufgabe nicht bearbeitet
Naheliegend wäre es, die Akte einfach einem KI-Sprachmodell zu übergeben und die Frage zu stellen. In der Praxis stößt dieser Ansatz an zwei Grenzen:
Lange Dokumente werden nicht vollständig erfasst. Sprachmodelle verarbeiten nur eine begrenzte Textmenge auf einmal. Selbst innerhalb dieser Grenze schenken sie Anfang und Ende eines Dokuments mehr Aufmerksamkeit als der Mitte. Was in einer mehrseitigen Akte in der Mitte steht geht schnell unbemerkt unter.
Modelle erfinden, was sie nicht wissen. Wo Informationen fehlen oder beim Verarbeiten verloren gingen, tendieren Sprachmodelle dazu die Lücke mit plausibel klingenden Details zu füllen. In der sozialen Arbeit fließen Auswertungen in Hilfeplanung, Stellungnahmen und folgenreiche Entscheidungen ein. Genau deshalb ist das Schadenspotenzial hier besonders beachtlich.
Unser Lösungsansatz: Ein abgestimmtes "KI-Team" statt eines einzelnen Modellaufrufs
Mit SoKI Swarm gehen wir dieses Problem strukturell an. Wir setzen dabei genau auf die eingangs beschriebene Kombination: Sprachmodelle übernehmen das Lesen und die fachliche Einordnung, deterministische Algorithmen kontrollieren den Ablauf.
Statt dass ein Modell versucht, alles in einem Durchgang zu leisten, verteilt Swarm die Aufgabe auf einen koordinierten Arbeitsablauf mehrerer spezialisierter Teil-Agenten:
- Aufteilen: Swarm zerlegt die Akte entlang der datierten Einträge in Abschnitte.
- Zuweisen: Jeder Teil-Agent erhält einen Abschnitt und wertet ihn zur gestellten Frage aus.
- Lücken schließen: Ein deterministischer Prüfschritt kontrolliert, ob jeder Abschnitt der Akte tatsächlich bearbeitet wurde. Bleibt ein Teil unberücksichtigt, wird er automatisch zusätzlichen Agenten zugewiesen („Lückenschluss").
- Zusammenführen: Ein Syntheseschritt führt die Einzelfunde zu einer Gesamtantwort zusammen.
Die Abdeckung wird dabei nicht erhofft, sondern deterministisch geprüft. Kein Teil der Akte wird stillschweigend übergangen. Kann ein Abschnitt einmal nicht vollständig verarbeitet werden, legt Swarm das offen, statt es zu kaschieren. Was diese Prüfung nicht leisten kann: Sie garantiert nicht, dass in jedem Abschnitt auch jeder relevante Zusammenhang erkannt wird. Dazu weiter unten mehr.
Beispiel: Wiederkehrende Verhaltensmuster in einer Akte
Eine Akte aus vier Jahren Familienhilfe, mehrere hundert Seiten. Die Frage: „Welche wiederkehrenden Verhaltensmuster zeigen sich in den dokumentierten Kontakten und Hausbesuchen?"
Jeder Teil-Agent wertet seinen Zeitraum aus und hält fest, was er zur Frage findet. Findet er nichts Relevantes, sind anreize gesetzt dies zurückzumelden anstatt etwas zu erfinden. Die Synthese führt die Funde zusammen. So werden Muster sichtbar, die sich über Jahre und viele dokumentierende Hände verteilen. Beim Querlesen einzelner Berichte bleiben sie leicht verborgen: etwa dass sich Rückzüge des Kindes wiederholt an Übergangssituationen knüpfen oder dass bestimmte Absprachen mehrfach getroffen und nicht umgesetzt wurden. Ein solcher Befund kann ein qualifizierter Ausgangspunkt für die fachliche Prüfung sein.
Nachvollziehbarkeit als Konstruktionsprinzip
SoKI Swarm ist gezielt gegen das Erfinden von Inhalten gebaut. Mehrere Schutzschichten greifen ineinander. Keine ist für sich unfehlbar, gemeinsam senken sie das Risiko aber deutlich:
Fehlendes bleibt auch in der Ausgabe abwesend. Steht eine erfragte Angabe nicht im Dokument, meldet Swarm „nicht im Dokument angegeben", statt eine plausible Antwort zu erfinden.
Konkrete Angaben werden gegengeprüft. Zahlen, Daten, Paragraphen, Namen und Zitate gleicht ein eigener Prüfschritt mit der tatsächlichen Quelle ab. Was sich nicht bestätigen lässt, wird sichtbar mit „[ungeprüft]" markiert. Nichts wird stillschweigend entfernt, Zweifel werden gekennzeichnet. Eine aufklappbare Liste am Ende der Antwort dient als Prüf-Checkliste für die Fachkraft. Wichtig für die Einordnung: Die Markierung ist ein Warnsystem, kein Beweissystem. Auch eine unmarkierte Angabe ist damit nicht abschließend bestätigt.
Das Ergebnis prüft sich selbst. Eine abschließende Kontrolle vergleicht die zusammengeführte Antwort mit den Einzelergebnissen und macht auf mögliche Lücken, Brüche oder Dopplungen aufmerksam. Auch sie ist ein Hinweisgeber, kein Beleg für Fehlerfreiheit.
Eine realistische Einordnung: Was auch SoKI Swarm nicht leistet
SoKI Swarm verbessert die Qualität der Ausgabe in bestimmten Anwedungsbereichen deutlich. Ein perfektes Produkt ist es dennoch nicht:
Keine harte Garantie. Die Prüfschichten reduzieren erfundene Inhalte deutlich, können sie aber nicht vollständig ausschließen. Der Grund: Auch die Prüfschritte selbst sind KI-Verfahren und können Fehler übersehen. Folgenreiche Angaben gehören weiterhin an der Originalakte geprüft. Das Ergebnis ist eine sorgfältige Arbeitshilfe, aber kein Ersatz für Aktenkenntnis und fachliche Einschätzung.
Vollständig vorgelegt heißt nicht vollständig erkannt. Die Abdeckungsprüfung stellt sicher, dass jeder Abschnitt des Dokuments einem Agenten vorgelegt wird. Sie stellt nicht sicher, dass jeder relevante Zusammenhang darin auch erkannt wird. Ein Agent kann eine Passage falsch einschätzen, bei der Zusammenführung können Einzelbefunde verloren gehen. Die Selbstprüfung macht auf solche Fälle aufmerksam, findet aber nicht zwingend jeden. Blinde Flecken werden durch diese Architektur deutlich seltener und deutlich sichtbarer. Ganz ausschließen lassen sie sich nicht.
Gebaut für Auswertung, nicht für freies Verfassen. Swarm gleicht jede konkrete Angabe mit der Quelle ab. Wer Inhalte mit neuen Inhalten formulieren lassen möchte, sieht genau diese neu erdachten Angaben als „ungeprüft" markiert. Das ist kein Fehler, sondern das Prinzip. Für solche Aufgaben bleibt der normale SoKI-Chat das bessere Werkzeug.
Gründlichkeit braucht Zeit. Ein Durchlauf über eine große Akte umfasst viele einzelne Modellaufrufe. Die Antwort kommt nicht in Sekunden. Und sie kann lang ausfallen, wenn die Akte zur Frage viel hergibt. Eine Bearbeitung mithilfe von SoKI Swarm kann so je nach Ausmaß auch mehrere Minuten in Anspruch nehmen.
...und nicht unerwähnt lassen können wir...
...ein paar Worte zum Automatisierungsbias
Der Automatisierungsbias beschreibt das Phänomen, dass Menschen bei zunehmender Qualität von Empfehlungen, Berechnungen oder Entscheidungen automatisierter Systeme dazu tendieren, diesen blind zu vertrauen und die eigenen ggf. wiedersprüchlichen Urteile, Zweifel oder Beobachtungen zu vernachlässigen.
Durch die SoKI Swarm zugrundeliegende Teilung einer komplexen Aufgabe in mehrere kleine Schritte in Verbindung mit mehren folgenden Prüf- und Verifikationsschritten scheint die Verlockung, manuelle Nachprüfungen der Ergebnisse auszulassen umso größer. Schließlich ist die Fehlerquote durch diese Herangehensweise viel geringer und SoKI Swarm sticht mit der deterministischen Verlinkung aller Aussagen anhand des Quellmaterials. In einigen Fällen wie Fallakten mit hunderten von Seiten kann ggf. weder die Nachprüfung, noch die Aufgabe selbst wenn man kein KI-Tool hierfür genutzt hätte, im Rahmen der Verfügbaren Arbeitsressourcen geleistet werden.
Wenn wir generativen KI Systemen Aufgaben in der Fallarbeit übergeben, welche Fachkräfte aufgrund von Zeitmangel und des schlechten Kosten-Nutzen-Verhältnisses in der Regel nicht selbst durchführen oder verifizieren können - ist der Einsatz dieser Tools dann überhaupt noch vertretbar?
Unserer Ansicht nach stellt SoKI Swarm ein erweitertes Recherchewerkzeug dar. Über simple Anweisungen lassen sich größere Dokumente systematisch nach Informationen oder Mustern durchsuchen, die durch klassische Suchalgorithmen nicht aufgedeckt werden könnten. In erster Linie steht Fachkräften hiermit also ein neues Werkzeug zur Verfügung, um sich auf Informationssuche zu begeben und deren Ergebnisse Anlässe für die genauere Betrachtung bestimmter Fallaspekte bieten können, die sonst wohlmöglich unerkannt geblieben wären.
Gleichzeitig darf SoKI Swarm trotz der gesteigerten Leistungsfähigkeit - wie alle unsere generativen KI Tools - keine Aufgaben machen in denen es nicht akzeptierbar wäre, dass Fehler gemacht werden (auch wenn die Chance hierfür gering erscheint). SoKI Swarm liefert wie andere generative KI systeme ggf. sehr hilfreiche Ausgaben und Impulse, kann aber weder für korrekte als auch fehlerbehaftet Ausgaben Verantwortung übernehmen. Hier braucht es gut geschulte Fachkräfte, die Abschätzen können für welche Use-Cases sich der Einsatz eignet und mit welchen Sicherheitsvorkehrungen die aus den generierten Informationen abgeleiteten Schritte in der Praxis versehen werden müssten.
Verfügbarkeit: Zusatzfunktion auf Anfrage
Diese Gründlichkeit hat im wörtlichen Sinn ihren Preis. Mit aktiven Prüfschichten führt jeder Teil-Agent mehrere Modellaufrufe durch (Auswertung und Verifikation), hinzu kommen die Prüfungen der Zusammenführung. Ein einziger Durchlauf über eine umfangreiche Akte verursacht dadurch aktuell ein Vielfaches der Kosten einer gewöhnlichen SoKI-Anfrage.
Aus diesem Grund liefern wir SoKI Swarm derzeit nicht standardmäßig mit aus. Einrichtungen, die die Funktion einsetzen möchten, können sie über ihre KI-Beauftragten als Zusatzfunktion bei uns anfragen. Wir beraten dabei gern zu sinnvollen Einsatzszenarien und den zu erwartenden Kosten.
Nebeneffekt aus der Entwicklung: Auch kleinere Modelle werden deutlich besser
Unser Plan bei der Entwicklung war klar: Wir wollten unsere stärksten KI-Modelle für diesen Anwendungsfall noch leistungsfähiger machen. Dabei ist uns ein spannender Nebeneffekt aufgefallen.
Setzen wir SoKI Swarm mit kleineren, schwächeren Sprachmodellen ein, steigert sich auch deren Antwortqualität deutlich. Dies liegt an der Grundmechanik: Swarm zerlegt komplexe, mehrschichtige Aufgaben in kleinere Arbeitsschritte. Die Ergebnisse durchlaufen anschließend Synthese- und Groundingschritte. Genau diese Struktur gleicht einen Teil der Schwächen kleinerer Modelle aus. Die erreichte Leistungssteigerung ist vom Prinzip her also nicht den besonders teuren und leistungsstarken Sprachmodellen vorbehalten.
Das lässt Hoffnungen wachsen, die weit über diesen einen Anwendungsfall hinausgehen. Ein Beispiel: Soziale Einrichtungen, die KI aus Datenschutzgründen zwingend auf eigener Infrastruktur betreiben müssen (On-Premises-Hosting). Mit geeigneten Pipelines könnten sie künftig auch mit schwächeren Modellen und günstigerer Hardware belastbarere Ergebnisse erzielen. Und zwar in ganz unterschiedlichen Use-Cases, für die sonst ein teures Flaggschiffmodell nötig wäre.
Fazit: Komplex heißt nicht unlösbar
Die Analyse langer Fallakten ist nur ein Beispiel. Die Probleme und Lücken, die sich in der Sozialen Arbeit im Zusammenspiel mit KI-Systemen zeigen, sind vielfältig. Manche wirken auf den ersten Blick komplex oder unüberwindbar.
Unsere Arbeit an SoKI Swarm zeigt das Gegenteil: Mit Experimentierfreude und der Bereitschaft, Sprachmodelle und klassische Algorithmen dort zu verketten, wo ihre jeweiligen Stärken liegen, lassen sich auch solche Herausforderungen schrittweise meistern. Und manchmal trägt eine Lösung weiter als geplant, wie der Nebeneffekt bei den kleineren Modellen zeigt.
Dabei muss das Ziel gar nicht das perfekte Produkt sein. Schon jeder kleine Schritt hin zu besseren Ergebnissen ist ein Erfolg. Genau so geht die Entwicklung stetig weiter: Der KI-Einsatz lässt sich Schritt für Schritt auf immer komplexere Aufgaben ausweiten, mit zunehmender Sicherheit und Reliabilität.
Solange Fachkräfte an den Schnittstellen zwischen IT und Sozialer Arbeit die Kraft und Freude mitbringen, sich diesen Herausforderungen zu stellen, werden auch in Zukunft für jedes Problem früher oder später passende Ansätze gefunden werden.
Wir bleiben dran und freuen uns über Einrichtungen, die mit uns experimentieren.
