Chinesische KI-Anwendung Deutsche Datenschützer wollen DeepSeek prüfen
DeepSeek verblüfft und verunsichert die Tech-Welt. Der neue Chat-Bot funktioniert ähnlich wie sein Konkurrent ChatGPT - soll aber günstiger entwickelt worden sein. Datenschützer wollen die KI prüfen.
Deutsche Datenschutzbehörden wollen laut einem Medienbericht die chinesische KI-Anwendung DeepSeek prüfen. "Es scheint bei DeepSeek datenschutzrechtlich an so ziemlich allem zu fehlen", sagte der rheinland-pfälzische Datenschutzbeauftragte Dieter Kugelmann dem Fachdienst "Tagesspiegel Background".
In den Datenschutzrichtlinien von DeepSeek wird laut Bericht eine umfangreiche Erfassung von Informationen durch die App angegeben - von der IP-Adresse über Chatverläufe und hochgeladene Dateien bis hin zu den Mustern und dem Rhythmus der Tastaturanschläge.
Kein Datenaustausch zwischen EU und China
Die europäische Datenschutzgrundverordnung (DSGVO) erlaubt lediglich den Datenaustausch mit Staaten, deren Schutzniveau mit dem in der Europäischen Union vergleichbar ist. Es fehlt jedoch ein Abkommen zwischen China und der EU, damit der Datenaustausch auf einer rechtlich sicheren Basis stattfinden kann.
Laut Kugelmann seien bislang auch keine europäische Niederlassung und auch kein zuständiger gesetzlicher Vertreter bekannt, schon das wäre ein Verstoß gegen die DSGVO.
KI-Innovation oder Sicherheitsrisiko?
DeepSeek war am Mittwoch Diskussionsthema auf der Zwischenkonferenz der Datenschutzbehörden in Berlin. "Wir prüfen nun, was man machen kann", sagte Kugelmann. Rheinland-Pfalz und mehrere andere deutsche Datenschutzbehörden wollen demnach gemeinsam beraten, welche weiteren Schritte sie einleiten.
Wahrscheinlich werde dabei zunächst ein Fragebogen zur Datenverabeitung an das Unternehmen geschickt. Die italienische Datenschutzbehörde hat sich bereits mit Fragen zur Verwendung von Nutzerdaten an DeepSeek gewandt. Sie frage sich angesichts des hohen Risikos für die Daten von Millionen von Menschen, "welche personenbezogenen Daten aus welchen Quellen und zu welchen Zwecken gesammelt werden", erklärte die Behörde.
GPT3 ist mit großen Mengen von Daten trainiert worden - und bietet als sogenanntes Foundation-Modell die Möglichkeit, die KI mit relativ geringem weiteren Aufwand für unterschiedliche Anwendungen und Aufgabenstellungen zu nutzen. So kann zum Beispiel ein Sprachmodell mit relativ wenig Aufwand etwa für einen Chatbot für eine Versicherung genutzt werden, indem dieser nur noch mit den versicherungsspezifischen Anforderungen trainiert werden muss.
Im Gegensatz dazu waren bisherige neuronale KI-Modelle immer auf eine bestimmte Anwendung ausgerichtet und trainiert. Modelle wie GPT3 - "Generative Pretrained Transformer 3" bieten dagegen zukünftig die Möglichkeit, viele verschiedene KI-Anwendungen praktisch im industriellen Maßstab zu nutzen.
Foundation-Modelle sind also ein großer Entwicklungssprung der Künstlichen Intelligenz. Wissenschaftler erwarten, dass die Modelle in relativ kurzer Zeit Fähigkeiten aufweisen werden, die bis vor Kurzem nicht vorstellbar waren und den Menschen bei vielen Aufgaben - etwa der Auswertung von Geschäftsdaten - übertreffen könnten. Doch zur Entwicklung solcher Modelle sind viele Tainingsdaten und viel Rechenleistung nötig. GPT3 hat 175 Milliarden Parameter, der Nachfolger GPT4 soll ein Vielfaches davon haben.
Datenleck entdeckt
Erst am Mittwoch hatte die israelische Cybersicherheitsfirma Wiz ein Datenleck beim chinesischen KI-Start-up aufgedeckt. Mehr als eine Million Datensätze, darunter digitale Software-Schlüssel und Chatprotokolle, seien versehentlich ungesichert im Internet zugänglich gewesen. Zu den sensiblen Daten gehörten demnach auch Nutzeranfragen an den kostenlosen KI-Assistenten.
Laut Wiz-Mitbegründer Ami Luttwak hat DeepSeek sofort reagiert. "Sie haben es in weniger als einer Stunde entfernt", sagte Luttwak. "Aber es war so einfach zu finden, dass wir glauben, dass wir nicht die Einzigen sind, die es gefunden haben."