Texte schreiben, programmieren, datenbasiertes Troubleshooting: KI-Sprachmodelle eröffnen Unternehmen und ihren Mitarbeitenden echte Möglichkeiten. Doch es lohnt sich, genau hinzusehen, wie sie genutzt werden: ob sie effektiv sind und ob sie sicher sind. Besonders cloudbasierte LLMs bergen ein Datenschutzrisiko.
Was narrowin baut
narrowin entwickelt Frameworks und Prototypen für die sichere und vertrauenswürdige Nutzung von LLMs: durch Anonymisierung und durch lokale «On-Prem»-Lösungen, die einem Unternehmen die Hoheit über seine eigenen Daten lassen. Im Rahmen eines vom Bund (Innosuisse) geförderten Innovationsprojekts, dem Cyber Regulatory Co-Pilot, untersucht narrowin gemeinsam mit der FHNW die wesentlichen Probleme in diesem Bereich und die Lösungen dazu.
Die Motivation ist nicht nur Compliance. Wer Datenschutz und Sicherheit ernst nimmt, kann das Vertrauen der Kundschaft stärken, reale Sicherheitsrisiken minimieren und Datenschutzbestimmungen einhalten, statt das eine gegen das andere abzuwägen.
Das Risiko ist nicht nur der Firmenname
Es ist verlockend anzunehmen, dass ein Prompt sicher an ein öffentliches Tool wie ChatGPT gesendet werden kann, sobald der Firmenname und ein paar offensichtliche Kennungen entfernt sind. Das ist nicht so. Selbst wenn die Namen entfernt sind, können die Daten das Unternehmen weiterhin verraten, auf mindestens fünf Wegen:
-
01
IP-Adressverfolgung
Eine einzelne IP-Adresse benennt vielleicht kein Unternehmen, aber Muster in IP-Adressen lassen sich mit bestimmten Organisationen korrelieren, besonders wenn sie zu einem Büro oder einem Firmen-VPN gehören.
-
02
Korrelation von Fragen und Daten
Inhalt und Kontext der Fragen tragen Hinweise. Spezifische Terminologie, Projektdetails oder branchenspezifische Informationen können ausreichen, um auf das Unternehmen zu schliessen, oder zumindest auf den Sektor, in dem es tätig ist.
-
03
Versehentliche Offenlegung
Mitarbeitende können versehentlich vertrauliche Informationen weitergeben oder Fragen stellen, die sie preisgeben: Strategien, interne Prozesse, Finanzzahlen, geistiges Eigentum.
-
04
Datenaggregation über die Zeit
Viele Abfragen desselben Unternehmens, über die Zeit gesammelt, fügen sich zu einem detaillierten Bild seiner Geschäftstätigkeit, Herausforderungen und Strategien. Diese aggregierten Daten sind für sich genommen wertvoll und vertraulich.
-
05
Sicherheitsrisiko beim Anbieter
Es besteht immer das Risiko einer Datenverletzung oder eines Missbrauchs beim Cloud-Anbieter. Werden dessen Systeme kompromittiert, können die von den Mitarbeitenden freigegebenen Daten mit ihnen offengelegt werden.
