KI in der Schuldnerberatung: Was sie kann, was sie nicht darf

In der Schuldnerberatung gibt es viel Arbeit, die weder rechtliche Prüfung noch Gespräch ist: Briefe lesen, Beträge abtippen, Aktenzeichen zuordnen, dieselbe Frage zum fünften Mal erklären. Sprachmodelle können einen Teil davon übernehmen. Sie können aber auch Fehler machen, die überzeugend klingen, und sie verarbeiten Daten, die zu den sensibelsten gehören, die ein Mensch preisgibt. Als jemand, der solche Systeme baut, halte ich beides für richtig: Der Nutzen ist real, und die Grenzen müssen im System angelegt sein, nicht nur im Handbuch.

Was sie kann

Ein Mahnschreiben folgt einem Muster: Absender, Aktenzeichen, Hauptforderung, Zinsen, Kosten, oft ein ursprünglicher Gläubiger, für den ein Inkassounternehmen auftritt. Ein Sprachmodell erkennt diese Angaben auch dann, wenn jedes Unternehmen sie anders anordnet, und auch auf einem schief fotografierten Brief. Das spart Abtipparbeit und vermeidet Tippfehler.

Entscheidend ist, was danach passiert. Das Ergebnis ist ein Vorschlag. Eine Fachkraft sieht ihn neben dem Original und übernimmt oder korrigiert ihn. Unplausible Ergebnisse, etwa Beträge, die nicht zusammenpassen, oder ein Schreiben, in dem der Text versucht, dem Modell Anweisungen zu geben, dürfen nicht still durchrutschen. Sie gehören ausdrücklich zur Prüfung markiert.

Die zweite Stärke liegt im Erklären. Ein Assistent kann Mandanten erklären, wie ein Verfahren abläuft, was mit Kaltmiete im Formular gemeint ist und welche Angabe als Nächstes fehlt. Er kann Antworten aus einem Gespräch in die passende Frage eintragen. Das entlastet die Beratung bei wiederkehrenden Fragen und hilft Menschen, die Formulare scheuen oder abends Zeit haben, wenn die Beratungsstelle geschlossen ist.

Damit das trägt, braucht der Assistent einen engen Rahmen. Er arbeitet nur mit dem Fall, aus dem der Mandant fragt. Er erklärt allgemeines Verfahrenswissen, nicht den Einzelfall. Und er gibt alles, was er nicht sicher beantworten kann, als Rückfrage an die Beratungsstelle weiter, statt eine Antwort zu erfinden.

Was sie nicht darf

Ob ein Plan angemessen ist, ob ein Antrag gestellt werden sollte, ob eine Forderung bestritten werden kann: Das sind Fragen der rechtlichen Beratung, und sie gehören zu Menschen, die dafür ausgebildet sind und Verantwortung tragen. Ein Assistent für Mandanten sollte deshalb keine Einschätzung des Einzelfalls abgeben und das auch offen sagen.

Ebenso wenig darf eine KI Entscheidungen treffen, die Mandanten rechtlich oder in ähnlicher Weise erheblich betreffen. Die Datenschutz-Grundverordnung sagt das ausdrücklich:

Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Praktisch heißt das: Jede Übernahme in die Akte, jede Entscheidung über einen Vorschlag und jeder Brief an einen Gläubiger bleibt die Handlung eines Menschen. Hinzu kommt Transparenz. Wer mit einem Assistenten schreibt, muss erkennen können, dass er mit einem KI-System spricht. Die europäische KI-Verordnung verlangt das für Systeme, die mit Menschen interagieren, und es ist auch ohne Vorschrift eine Frage des Respekts.

Nur so viele Daten wie nötig

Eine KI braucht nicht die ganze Akte, um einen Brief zu lesen. Gute Systeme schicken an das Modell nur, was die jeweilige Aufgabe erfordert: das eine Schreiben, die eine Frage, den Stand der Angaben. Passwörter, Zugangsdaten und fremde Fälle gehen nie mit. Gesprächsverläufe werden verschlüsselt gespeichert und nach einer festgelegten Frist gelöscht. Und es muss vertraglich ausgeschlossen sein, dass der Anbieter des Modells die Daten für das Training verwendet.

Zur Sparsamkeit gehören auch Grenzen beim Verbrauch. Feste Budgets je Benutzer, je Mandantenkonto und je Tag verhindern, dass ein Konto unbemerkt große Datenmengen an ein Modell schickt, sei es durch einen Fehler oder durch Missbrauch eines Zugangs.

KI eignet sich für wiederkehrende Lese- und Erklärarbeit, rechtliche Einschätzungen und Entscheidungen bleiben bei der Beratung. In insobearbeiter liest die KI Gläubigerschreiben deshalb als Vorschlag, der erst nach Ihrer Prüfung in die Akte kommt, und der Assistent im Mandantenportal arbeitet nur im Fall des fragenden Mandanten. Den Assistenten und das Auslesen von Belegen schalten Sie in den Einstellungen ein und aus; KI-Funktionen laufen nur mit einem Vertrag zur Auftragsverarbeitung mit dem Anbieter.