KI und Datenschutz bei der Auftragserfassung

Was in einer Bestell-E-Mail steht

Stellen Sie sich eine typische Bestellung vor: „Hallo Frau Berger, bitte liefern Sie bis Freitag an unsere Baustelle in der Lindenstraße 12, 50667 Köln. Ansprechpartner vor Ort ist Herr Kaya, 0171 2345678. Viele Grüße, Jana Beispiel, Muster GmbH.“ Hinzu kommt die Signatur mit Durchwahl, E-Mail-Adresse und gelegentlich einer Bankverbindung.

In diesen wenigen Zeilen finden sich vier Namen, eine Adresse, eine Mobilnummer und ein Firmenname. Für die Erstellung des Auftrags ist primär entscheidend, wer die Bestellung aufgegeben hat. Wer KI zur Verarbeitung nutzt, muss daher vorab klären, welche Informationen an einen KI-Anbieter übermittelt werden und was dort damit geschieht.

Bei Onshop werden Texte, PDF-Dateien und Bilder so verarbeitet, dass nur unkenntlich gemachte Inhalte übertragen werden. Wie dieser Prozess funktioniert und wo die Grenzen liegen, erläutern wir im Folgenden.

Der Weg einer E-Mail durch Onshop

Der erste Schritt passiert, bevor eine KI beteiligt ist. Fotos, Scans oder PDF-Dateien ohne Textebene wandeln wir mittels einer eigenen Texterkennung in Text um. Dieser Vorgang findet auf unseren Servern statt. Auch den Text aus digitalen PDFs lesen wir selbst aus. An ein KI-Modell werden keine Dateien gesendet, sondern ausschließlich der extrahierte Text.

In einem zweiten Schritt sucht ein interner Dienst im Text der E-Mail und der Anhänge nach personenbezogenen Daten wie Namen, E-Mail-Adressen, Telefonnummern, Anschriften oder IBANs. Dabei kommen Muster für feste Formate sowie ein Sprachmodell für Namen und Adressen zum Einsatz, das ebenfalls auf unseren Servern läuft. Zusätzlich nutzt der Dienst Ihre eigenen Kundendaten, damit auch ungewöhnliche Namen Ihrer Geschäftspartner erkannt werden.

Im dritten Schritt werden alle gefundenen Angaben durch Platzhalter ersetzt. Aus „Herr Kaya, 0171 2345678“ wird eine Kennung wie [[PERSON_2]], [[PHONE_1]]. Artikelbezeichnungen aus Ihrem Katalog bleiben unverändert, da eine „Holzschraube 4×40“ kein personenbezogenes Datum ist und das Modell diese Bezeichnung benötigt, um die Position zu erfassen.

Erst dieser bearbeitete Text wird im vierten Schritt an das KI-Modell in der Cloud gesendet. Das Modell verarbeitet die Bestellung mit den Platzhaltern und liefert einen entsprechenden Auftragsentwurf zurück.

Im fünften Schritt setzen wir auf unseren Servern die ursprünglichen Angaben wieder ein. Die Information, welcher Platzhalter für welchen Namen stand, existiert nur für diese einzelne Anfrage und wird nicht gespeichert. In Ihrem finalen Auftragsentwurf stehen somit wieder die korrekten Namen.

Was wir offen sagen

Eine automatische Erkennung arbeitet nicht fehlerfrei. Wenn ein Name wie ein normales Wort wirkt oder eine Telefonnummer sehr ungewöhnlich geschrieben ist, kann dies passieren. Das Verfahren über Platzhalter reduziert die Sichtbarkeit Ihrer Daten beim KI-Anbieter erheblich, bietet jedoch keine Garantie für jeden einzelnen Fall. Wir halten diese Transparenz für wichtiger als ein pauschales Versprechen.

Audio-Anhänge bilden derzeit eine Ausnahme. Sprachnachrichten werden noch als Datei an das KI-Modell gesendet, da wir für Audio noch keine eigene Erkennung betreiben. Diese ist geplant; bis dahin bezieht sich die oben beschriebene Vorgehensweise nur auf Text, PDF und Bilder.

Wer mit dem KI-Anbieter spricht

Die Zugangsschlüssel zum KI-Anbieter werden von einem einzigen zentralen Dienst von Onshop verwaltet. Über diesen Dienst laufen sämtliche Anfragen, und dort werden die Angaben auch durch Platzhalter ersetzt. Ihre Onshop-Instanz besitzt keinen eigenen Schlüssel und kommuniziert nie direkt mit dem KI-Anbieter. So ist sichergestellt, dass keine Anfrage den beschriebenen Prozess umgeht.

Ihre Daten befinden sich in Ihrer eigenen Instanz mit eigenem Datenbankschema und separater Anmeldung. Andere Onshop-Kunden haben keinen Zugriff darauf.