Eingabe sensibler Daten in generative AI-Chatbots

Wie gehen generative KI-Chatbots wie ChatGPT oder Google Bard mit personenbezogenen oder anderweitig vertraulichen Daten um?

Das Potenzial und die Einsatzmöglichkeiten (generativer) Künstlicher Intelligenz scheinen im Jahr 2023 nahezu unendlich. Immer mehr Unternehmen entdecken beispielsweise intelligente Chatbots für sich. Diese können weitaus mehr als nur eigenständig neue Bilder generieren. So lassen sie sich beispielsweise auch im Bereich der Entwicklung von Programmieren nutzen.

Doch was können und dürfen die KI-basierten Helfer eigentlich, und vor allem: Wie gehen sie mit den Daten um, mit denen wir sie füttern?

Rechtslage: Umgang mit KI in der EU

Bis vor ein paar Tagen stand die Zukunft und vor allem der Umgang mit KI-Anwendungen in der EU in den Sternen. Nun hat das EU-Parlament sich auf eine Position zum KI-Gesetz geeignet. Anwendungen, welche mit hohen Sicherheitsrisiken verbunden sind (z.B. Gesichtserkennung), sollen verboten werden, wie die Tagesschau berichtet.

Dies müsse jedoch in den kommenden Monaten mit den Mitgliedsstaaten der EU-Kommission weiter verhandelt werden, wie die Tagesschau berichtet (vgl. tagesschau.de, 14.06.2023).

Künstliche Intelligenz und die DSGVO

Die Datenschutzgrundverordnung, welche 2018 in Kraft trat, regelt grundsätzlich den Umgang mit (personenbezogenen) Daten innerhalb der Europäischen Union. Bedingt durch die Geschwindigkeit, mit der die digitale Transformation und Innovationskraft voranschreitet, muss diese jedoch laufend angepasst werden; so unter anderem auch an die neuen Möglichkeiten, die Künstliche Intelligenz eröffnet.

Verwandt: CRM-Systeme und der Datenschutz 

Vertrauliche Daten in Chatbots

Neben ChatGPT hat auch Google Bard an Bekanntheit gewonnen. Auch hierbei handelt es sich um einen generativen AI-Chatbot. Benannt ist der Bot übrigens nach William Shakespeare, welcher auch als „Bard of Avon“ (Bard = Dichter) bezeichnet wird.

Google-Mutter Alphabet selbst warnt seine Mitarbeiter jedoch vor der Eingabe vertraulicher Daten in generative KI-Chatbots und schließt dabei auch den hauseigenen Bard mit ein, wie Heise berichtet (vgl. Bernd Mewes, 15.06.2023, heise.de). Dies hat vornehmlich zweierlei Gründe.

Darum ist Vorsicht geboten

Dies hat vornehmlich zweierlei Gründe. Einerseits seien menschliche Prüfer in der Lage, Eingaben zu lesen. Auf der anderen Seite bestehe immer auch das Risiko, dass der Bot die eingegebenen Daten reproduzieren könnte. Würden also Google-Ingenieure Codezeilen in Bard & Co. eingeben, um sich bei der Entwicklung helfen zu lassen, stelle dies ein Sicherheitsrisiko für das Unternehmen dar.

Wenngleich Alphabet auch höherpreisige Chatbots im Portfolio hat, bei denen die eingegebenen Daten nicht in öffentliche KI-Modelle einfließen sollen, ist Mitarbeitern die Nutzung in Verbindung mit der Eingabe sensibler Daten dennoch untersagt.

Unterschiedliche Herangehensweisen

Wie Heise berichtet, habe das Unternehmen die Mitarbeiter-Anweisung gegenüber Reuters bestätigt und sich dabei auf die seit langem bestehende Richtlinie zum Schutz von Informationen berufen (vgl. Bernd Mewes, 15.06.2023, heise.de). Dem Unternehmen sei es wichtig, auch die Grenzen der eigenen Technologien transparent zu machen, so Heise.

Selbst Sam Altman, Gründer von OpenAI - dem Unternehmen hinter ChatGPT - gestehe die Risiken künstlicher Intelligenz ein. Auch renommierte Banken wie die Bank of America oder JPMorgan Chase würden ihren Mitarbeitern die Nutzung von KI-Chatbots verbieten bzw. diese zumindest einschränken (vgl. Bernd Mewes, 15.06.2023, heise.de).

In der Automobilbranche werde bei Volkswagen und Mercedes-Benz aktuell der mögliche Einsatz geprüft, so Heise. Wieder andere Unternehmen hätten die Nutzung generativer KI-Technologien bereits in das produktive Geschäft integriert (vgl. Bernd Mewes, 15.06.2023, heise.de).