// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Privacy Gateway: Filter entfernt sensible Daten, bevor sie ChatGPT erreichen
Einzelne Informationen können Rückschlüsse auf Personen zulassen. Das stellt besonders für Firmen ein Risiko dar. Eine neue Lösung soll das Problem beheben.
Das neue Tool vermittelt zwischen den Nutzern und dem KI-Sprachmodell.
Rund ein Drittel der Menschen in Deutschland nutzt KI mindestens einmal pro Woche. Das geht aus einer repräsentativen Bitkom-Umfrage hervor. Am häufigsten werden Tools wie ChatGPT, Perplexity oder Copilot eingesetzt, um Zeit zu sparen. Das Formulieren von E-Mails gehört zu häufigen Anwendungsfällen, genauso wie die Auswertung großer Dokumente. Oft werden bei dieser Nutzung allerdings unbewusst sensible Daten an Tech-Konzerne aus den USA oder China weitergegeben. Pascal Tippe, der als Doktorand an der Fernuniversität Hagen tätig ist, erklärt in einem Blogbeitrag, dass schon scheinbar harmlose Angaben Rückschlüsse auf die Identität einer Person zulassen können.
Aus vielen einzelnen Angaben können laut Tippe mit der Zeit persönliche Profile entstehen, die Interessen oder Gewohnheiten widerspiegeln. „Gelangen diese Daten in falsche Hände, zum Beispiel durch einen Hackerangriff auf die KI-Systeme, können sie missbraucht werden.“ Besonders in Unternehmen könne das weitreichende Folgen haben. Viele der Eingaben betreffen auch Kollegen, Kunden oder Familienmitglieder, die einer Weitergabe ihrer Daten nie zugestimmt haben. Das könne gegen zentrale Datenschutzvorgaben verstoßen. Zudem dienen die Eingaben häufig dem weiteren Training der KI-Modelle. Wer sensible Informationen eingibt, muss daher damit rechnen, dass sie später auch an andere Nutzer ausgegeben werden.
Ein vollständiges Verbot generativer KI hält das Forschungsteam der Fernuniversität Hagen für den falschen Weg, da das extreme Produktivitätseinbußen nach sich ziehen würde. Zudem nutzen Menschen KI wahrscheinlich weiterhin – „egal, ob es erlaubt ist oder nicht“. Deshalb brauche es Möglichkeiten, sensible Daten bei der Arbeit mit Chatbots zu schützen. Zusammen mit Masterstudent Michael Maximilian Grötzner entwickelte Tippe einen Prototyp, der sensible Inhalte automatisch erkennt und entfernt, bevor sie an ein KI-Sprachmodell gesendet werden. Privacy Gateway arbeitet wie ein intelligenter Vermittler zwischen Nutzern und dem jeweiligen Sprachmodell und bewertet nicht nur offensichtliche Angaben, sondern den gesamten Zusammenhang einer Anfrage.
Hinter Privacy Gateway stecke mehr als ein technischer Filter: „Wir haben ein Codebook erstellt“, erklärt Tippe. „Darin haben wir die rechtlichen Definitionen der Datenschutz-Grundverordnung, also Artikel 4 und Artikel 9 zu personenbezogenen Daten, sowie das deutsche Geschäftsgeheimnis in eine Menge an Anweisungen übersetzt.“ Dadurch könne das System erkennen und begründen, warum sensible Informationen geschützt werden müssen. Damit unterscheidet sich der Ansatz von herkömmlichen Filtern, die vor allem nach Begriffen oder Zahlenfolgen suchen und diese schwärzen.
Tippe und Grötzner überprüften den Prototyp im Rahmen ihrer Studie mithilfe eines umfangreichen Datensatzes mit unterschiedlichen Alltagsszenarien. Sie untersuchten, wie zuverlässig vertrauliche Informationen erkannt und anonymisiert werden und welchen Einfluss das auf die Qualität der Antworten hat. Dabei stellten sie fest, dass es auch Fälle gibt, in denen sich sensible Informationen nicht entfernen lassen, ohne dass die Qualität der KI-Antworten leidet. „Bei Prompts, die extrem viele personenbezogene Daten enthalten, beispielsweise bei umfangreichen medizinischen Diagnosen, die man gerne mal mit der KI bespricht, geht relativ viel verloren, was wichtig sein könnte“, sagte Tippe. Datenschutz und Nutzbarkeit seien demnach nicht immer vollständig miteinander vereinbar.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an