Ist ChatGPT sicher? Risiken, Datenschutz und wie man es sicher nutzt

ChatGPT ist ein KI-Chatbot, der auf großen Sprachmodellen (LLMs) basiert. Er generiert menschenähnliche Antworten. Sie beruhen wiederum auf Mustern, die aus großen Textmengen und anderen Trainingsdaten gelernt wurden. OpenAI hat ChatGPT Ende 2022 eingeführt.

Die Menschen nutzen das generative KI-Tool mittlerweile für alles Mögliche. Dazu gehören mitunter berufliche Aufgaben oder auch private Fragen. Das löst Bedenken hinsichtlich Datenschutz, Sicherheit und des Umgangs mit Nutzerdaten aus. Im nachfolgenden Artikel werfen wir einen Blick auf die Bedenken. Zudem verraten wir praktische Maßnahmen, die helfen können, Datenschutzrisiken bei der Nutzung von ChatGPT zu verringern.

Ist ChatGPT sicher? Kurz gesagt …

ChatGPT ist für viele alltägliche Anwendungen normalerweise sicher. Das gilt, solange die Nutzer keine hochsensiblen Daten weitergeben. Zudem sollten sie sich der Grenzen des Services bewusst sein. OpenAI bietet Datenschutz- und Sicherheitsfunktionen. Dazu gehören die Möglichkeit zum Datenexport und Optionen zum Löschen, ein temporärer Chat sowie Speicherkontrollen.

Allerdings ist kein System vollkommen sicher oder ohne Risiko. Bei Nutzern der Versionen ChatGPT Free, Plus und Pro können die Unterhaltungen zur Verbesserung der Modelle von OpenAI verwendet werden. Das ist der Fall, wenn das Modelltraining nicht deaktiviert wurde. Eine übermäßige Abhängigkeit von KI-Chatbots bei der Suche nach Antworten, emotionaler Unterstützung oder Gesellschaft kann ebenfalls Risiken bergen. Das gilt insbesondere bei Entscheidungen in den Bereichen Gesundheit, Sicherheit, Recht oder Finanzen.

Wie ChatGPT Anwender schützt

ChatGPT speichert und verarbeitet große Mengen an Nutzerdaten. Daher setzt OpenAI zahlreiche Schutzmaßnahmen ein, um das Risiko von unbefugtem Zugriff, Datenschutzverletzungen und Missbrauch zu verringern.
Nachfolgend findest Du einen Überblick zu den wichtigsten Sicherheits- und Datenschutzmaßnahmen. Um mehr darüber zu erfahren, wie ChatGPT Anwenderdaten schützt, besuche OpenAIs Trust-Portal und lies Dir die Datenschutzbestimmungen durch.

Datenverschlüsselung

Inhalte zwischen Anwendern und OpenAI sowie zwischen OpenAI und seinen Service-Anbietern sind verschlüsselt. Das gilt für ruhende Daten sowie für solche, die übertragen werden. Für Unternehmensprodukte nutzt OpenAI Verschlüsselung mit 256-Bit Advanced Encryption Standard (AES) für ruhende Daten und Transport Layer Security (TLS) 1.2 oder höher für die Übertragung.

Verschlüsselung ist ein kryptografischer Vorgang, bei dem lesbare Daten in ein unlesbares Format umgewandelt werden. Nur wer den richtigen Schlüssel hat, kann den Vorgang rückgängig machen und auf die ursprünglichen Daten zugreifen.

Zugriffskontrolle

OpenAI setzt Sicherheitsmaßnahmen, Tests und Überwachungsmechanismen ein, um das Risiko von unbefugtem Zugriff, Datenlecks sowie Missbrauch zu verringern. Die Dokumentation zu Sicherheit und Compliance, einschließlich Informationen zu Audits durch Dritte, ist im Trust-Portal von OpenAI verfügbar.

Sicherheits-Audits und Einhaltung gesetzlicher Vorschriften

OpenAI unterstützt die Einhaltung gesetzlicher Vorschriften durch Datenschutzgesetze, inklusive der Datenschutzgrundverordnung (DSGVO) und dem California Consumer Privacy Act (CCPA). Das Trust-Portal von OpenAI bietet Zugang auf Compliance-Unterlagen. Dazu gehören SOC-2-Berichte (Service Organization Control 2, Typ 2) sowie Zertifizierungen der Internationalen Organisation für Normung (ISO).

Unabhängige Prüfer haben zudem die Systeme hinter der API und den unternehmensorientierten ChatGPT-Angeboten geprüft. Dazu gehören Enterprise, Business, Edu for Teachers und Healthcare. Die Berichte zeigen, ob die Kontrollmaßnahmen von OpenAI den anerkannten Branchenstandards in Bereichen wie Sicherheit, Vertraulichkeit, Datenschutz und Verfügbarkeit entsprechen.

Datenschutzeinstellungen und Kontrolle der Daten

In den ChatGPT-Einstellungen können Anwender auswählen, ob OpenAI ihre Unterhaltungen und Dateien nutzen darf, um seine KI-Modelle zu verbessern. ChatGPT bietet zudem temporäre Chats an. Solche Unterhaltungen erscheinen nicht im Chatverlauf, hinterlassen keine Spuren und werden nicht für das Training von Modellen verwendet. Die temporären Chats lassen sich dennoch auf Missbrauch überprüfen und werden innerhalb von 30 Tagen automatisch aus den Systemen gelöscht.

Unternehmen, die Enterprise-Produkte nutzen, haben möglicherweise Zugriff auf zusätzliche Datenschutz-, Aufbewahrungs- und Sicherheitskontrollen. OpenAI trainiert bei Unternehmensprodukten per Standard nicht mit Daten der entsprechenden Organisation. Zudem gibt es für entsprechende Organisationen erweiterte Kontrollen zur Datenaufbewahrung. Bei gewissen API-Anwendungsfällen gibt es eine Option für gar keine Datenaufbewahrung. Ferner gibt es Enterprise Key Management für Kunden, die die Kontrolle über Schlüssel benötigen.

Das Löschen eines Chats bedeutet nicht zwangsläufig, dass er sofort aus den Systemen von OpenAI entfernt wird. Die Aufbewahrungsdauer hängt von der Art der Daten, ihrer Verwendung sowie den Kontoeinstellungen ab. Die entsprechenden Daten können gespeichert werden, wenn sie für legitime geschäftliche Zwecke, aus Sicherheitsgründen, aufgrund gesetzlicher Vorschriften oder zur Streitbeilegung benötigt werden.

Authentifizierung von Anwendern

OpenAI unterstützt Multi-Faktor-Authentifizierung (MFA). Damit ist ein weiterer Schritt für die Verifizierung nötig. Es verringert das Risiko, dass einem Angreifer nur ein gestohlenes Passwort Zugriff auf das Konto gewährt. Allerdings beseitigt es das Risiko nicht, dass ein Konto komplett übernommen wird.

Anonymisierung von Daten

OpenAI ergreift Maßnahmen, um die Menge an personenbezogenen Daten in den Trainingsdatensätzen zu reduzieren, bevor sie zur Verbesserung und zum Training von Modellen eingesetzt werden. In den Datenschutzrichtlinien heißt es zudem, dass OpenAI personenbezogene Daten aggregieren oder anonymisieren kann. Dann lassen sich Nutzer nicht mehr identifizieren.

Dennoch sollten Nutzer es vermeiden, sensible personenbezogene Daten an ChatGPT zu übermitteln. Die Anonymisierung bietet keine Garantie dafür, dass sensible Daten niemals exponiert werden oder sich für Ableitungen nutzen lassen.

Was sind die größten Bedenken bei der Nutzung von ChatGPT?

ChatGPT hat natürlich Datenschutz- und Sicherheitsvorkehrungen. Es birgt aber auch Risiken, die viele generative KI-Systeme gemeinsam haben.

Bedenken bezüglich Datenschutz und Sicherheit

Bei privaten ChatGPT-Konten kann OpenAI Unterhaltungen und hochgeladene Dateien nutzen, um seine Modelle zu verbessern. Die Ausnahme ist, dass das Modelltraining deaktiviert ist . Ist diese Einstellung deaktiviert, werden neue Unterhaltungen nicht mehr für das Training genutzt. In einigen Fällen lesen auch menschliche Prüfer die Inhalte, um die Services von OpenAI zu verbessern.

OpenAI verkauft keine personenbezogenen Daten und gibt keine ChatGPT-Unterhaltungen an Werbetreibende weiter. Das Deaktivieren des Modelltrainings führt jedoch nicht zwangsläufig zur Löschung bestehender Konto- oder Unterhaltungsdaten. Wie bei jedem Online-Service, der Nutzerdaten speichert, können die gespeicherten Daten dennoch gewisse Sicherheitsrisiken bergen. Dazu gehören auch ein unbefugter Zugriff oder eine Datenschutzverletzung.

Falschinformationen und KI-Halluzinationen

Wie andere generative KI-Systeme auch generiert ChatGPT Antworten anhand von Mustern, die es während des Trainings gelernt hat. Es kommt auch auf die Eingabe des Nutzers sowie den im Chat verfügbaren Kontext und die dort vorhandenen Tools an. Daher kann es sein, dass es falsche, unvollständige oder veraltete Informationen gibt, sie aber dennoch mit großer Überzeugung präsentiert. Solche Fehler werden häufig KI-Halluzinationen genannt.

In Bereichen mit hohem Risiko wie Gesundheit, Recht oder Finanzen kann es zu Fehlentscheidungen führen, wenn man sich auf eine von einer KI generierte Antwort verlässt. Sie sollten sie daher überprüfen, entweder anhand einer vertrauenswürdigen Quelle oder durch fachlichen Rat. So könnten etwa falsche medizinische Informationen von einem KI-Chatbot zu problematischen Entscheidungen bezüglich Gesundheit führen.

Soziale und emotionale Auswirkungen

OpenAI erklärt, dass „ChatGPT nicht dazu gedacht ist, menschliche Beziehungen zu ersetzen oder nachzuahmen“. Allerdings räumt das Unternehmen ein, dass es manche Leute genau so nutzen. Frühe Studien von OpenAI und dem MIT Media Lab hat Zusammenhänge zwischen bestimmten Nutzungsmustern von ChatGPT und Faktoren wie Einsamkeit, emotionaler Abhängigkeit sowie sozialer Interaktion festgestellt. Allerdings sind weitere Studien nötig, um Ursache und Wirkung zu verstehen.

Ein weiteres Problem bei KI-Chatbots ist die sogenannte Sycophancy. Dabei reagiert ein System übermäßig zuvorkommend oder bestätigend. Das kann die bestehende Meinung eines Nutzers verstärken, selbst wenn eine ausgewogenere Antwort sicherer oder nützlicher wäre.

Was Du mit ChatGPT nicht teilen solltest

Am besten behandelst du ChatGPT wie jeden anderen Online-Service, der Nutzerinhalte speichert und verarbeitet. Teile also nach Möglichkeit keine besonders sensiblen, vertraulichen oder für die jeweilige Aufgabe unnötigen Daten.
Teile Folgendes besser nicht:

• Sensible persönliche Daten: Vollständige Namen, Wohnadressen, Telefonnummern, E-Mail-Adressen, Nummern von Ausweisen oder andere Angaben, mit denen man Dich identifizieren, ausfindig machen oder exponieren kann.
• Anmeldedaten und Zugriffs-Token: Passwörter, MFA-Codes, API-Schlüssel, Sicherheits-Token, Wiederherstellungs-Codes oder andere Anmeldedaten.
• Finanzdaten: Kontonummern, Kreditkartendaten, Steuerinformationen oder Zahlungsdaten.
• Gesundheitsdaten: Krankenakten, Diagnosen, Untersuchungsresultate, Rezepte oder andere sensible gesundheitsbezogene Angaben.
• Vertrauliche Arbeiten oder Kundendaten: Vertrauliche Daten, interne Dokumente, Geschäftsgeheimnisse, Kundenakten oder alles, was unter eine Geheimhaltungsvereinbarung (NDA) oder eine Richtlinie am Arbeitsplatz fällt.
• Rechtliche Angelegenheiten: Laufende Rechtsstreitigkeiten, Einzelheiten zu Fällen, rechtliche Strategien oder Daten, die dem Anwaltsgeheimnis unterliegen.
• Persönliche Daten anderer Leute: Persönliche Daten, Fotos, Nachrichten oder Aufzeichnungen, die Freunde, Familienmitglieder, Kunden, Patienten oder Minderjährige betreffen.

Ist ChatGPT für Kinder und Schüler oder Studenten sicher?

In den Nutzungsbedingungen vonOpenAI steht, dass Anwender mindestens 13 Jahre alt sein oder das in ihrem Land vorgeschriebene Mindestalter haben müssen, um der Nutzung des Services zustimmen zu können. Nutzer unter 18 Jahren benötigen die Erlaubnis eines Elternteils oder Erziehungsberechtigten. OpenAI hat Maßnahmen zur Altersschätzung und Altersüberprüfung eingeführt, Allerdings können die entsprechenden Systeme möglicherweise das Alter jedes Nutzers nicht bei der Anmeldung überprüfen.

Alle allgemeinen Bedenken zu ChatGPT gelten auch für Kinder und Schüler. Allerdings sind jüngere Anwender zusätzlichen Risiken ausgesetzt. OpenAI bietet zudem Kindersicherungsfunktionen für miteinander verknüpfte Eltern- und Jugendkonten an. Dazu gehören auch die Optionen zur Verwaltung bestimmter Einstellungen, zum Festlegen von Ruhezeiten und zum Erhalt von Sicherheitswarnungen unter bestimmten Umständen.

Wie andere generative KI-Systeme kann auch ChatGPT weiterhin Inhalte erzeugen, die sich nicht für alle Altersgruppen eignen. OpenAI wendet per Standard Jugendschutzmaßnahmen an, wenn ein Nutzer unter 18 Jahre alt ist oder wenn seine Systeme vermuten, dass ein Konto wahrscheinlich einer Person gehört, die unter 18 Jahre alt ist. Die Nutzung von ChatGPT für Schularbeiten kann je nach Schule, Kurs oder Aufgabenstellung gegen Richtlinien zur akademischen Integrität verstoßen. Ferner kann es die Entwicklung von Fähigkeiten behindern, wenn Schüler es als Schnelllösung statt als Hilfsmittel nutzen.

Jüngere Nutzer sind möglicherweise anfälliger für Falschinformationen. Das gilt auch für die sozialen oder emotionalen Auswirkungen einer übermäßigen Abhängigkeit von KI-Chatbots. Schließlich entwickeln sie ihr kritisches Denken und ihre zwischenmenschlichen Fähigkeiten noch.

So nutzt man ChatGPT sicher

Nutzer können potenzielle Risiken mindern, indem sie die Grenzen von ChatGPT kennen sowie die verfügbaren Datenschutz- und Sicherheitsmaßnahmen nutzen.

Datenschutz-Tools von ChatGPT nutzen

Schau Dir vor der Nutzung von ChatGPT die Datenschutzeinstellungen an. Die integrierten Kontrollmechanismen können helfen, weniger Daten zu speichern oder zu steuern, wie sie genutzt werden.

Vom Training der OpenAI-Modelle abmelden

1. Klicke auf Dein Profil-Symbol und wähle Settings (Einstellungen).
   
2. Öffne Data controls (Datenkontrolle).
   
3. Deaktiviere Improve the model for everyone (Das Modell für alle verbessern) und klicke dann auf Done (Fertig).
   

Lösche Deine Chats

So löschst Du eine individuelle Unterhaltung:

1. Öffne die Seitenleiste mit dem Chatverlauf, fahre mit der Maus über den Chat, den Du löschen möchtest und klicke dann auf die drei Punkte (...) neben dem Chat-Titel.
   
2. Wähle Delete (Löschen) und klicke dann auf nochmal auf Delete (Löschen), um die Sache zu bestätigen.
   

So löschst Du alle Unterhaltungen gleichzeitig:

1. Öffne die Settings (Einstellungen).
2. Öffne die Data controls (Datenkontrollen).
3. Klicke auf Delete all chats (Alle Chats löschen) und bestätige dann das Löschen, wenn Du dazu aufgefordert wirst.
   

Nutze temporäre Chats

So startest Du einen temporären Chat:

1. Starte eine neue Unterhaltung, indem Du auf New chat (Neuer Chat) klickst.
   
2. Klicken in der oberen rechten Ecke der Seite auf die Schaltfläche Temporär und anschließend auf Continue (Weiter).
   

Nutze starke Passwörter und MFA

Sichere Passwörter helfen dabei, Konten vor dem Erraten von Passwörtern zu schützen. Das gilt auch für sogenanntes Credential Stuffing und alle andere Angriffe, die zu einer Übernahme des Kontos führen können.

Ein starkes Passwort ist lang, einzigartig und es lässt sich nur schwer erraten. Ein Passwort-Manager wie ExpressKeys kann Dir helfen, komplexe Passwörter zu erstellen und sie zu speichern.

Du kannst die Sicherheit Deines Kontos weiter stärken, indem Du die MFA aktivierst. Öffne dazu die Settings (Einstellungen), öffne Security (Sicherheit) und wähle dann eine Methode unter Multi-factor authentication (Multi-Faktor-Authentifizierung / MFA). Folge anschließend der Einrichtungsanleitung.

Überprüfe wichtige Antworten, bevor du handelst

ChatGPT kann nützlich sein. Allerdings können die Antworten auch ungenau, unvollständig oder veraltet sein. Bei wichtigen Entscheidungen bezüglich Gesundheit, Recht oder Finanzen solltest Du die Informationen anhand vertrauenswürdiger Quellen überprüfen oder einen qualifizierten Fachmann fragen.

Vorsicht vor Betrug

Betrügerische Apps und Websites geben sich vielleicht als ChatGPT aus oder behaupten, offiziell mit OpenAI zusammenzuarbeiten. Solche betrügerischen Plattformen können Nutzer dazu verleiten, für einen minderwertigen Service zu bezahlen. Möglicherweise stehlen sie auch Anmeldedaten oder persönliche Daten durch Phishing . Vielleicht installieren sie sogar Malware auf Deinen Geräten.

OpenAI veröffentlicht die offizielle ChatGPT-App. Apps anderer Entwickler nutzen zwar möglicherweise die Technologie von OpenAI. Sie gelten allerdings nicht als offizielle ChatGPT-App, solange sie nicht von OpenAI veröffentlicht wurden.

Um Betrug zu vermeiden, überprüfe den Entwickler der App. Lade sie zudem nur aus vertrauenswürdigen Quellen herunter. Das sind etwa die OpenAI-Website, dem Apple App Store oder Google Play.

Kinder sollten unter Aufsicht von Erwachsenen sein

Für Kinder im Alter von 13 bis 18 Jahren sollten Eltern oder Erziehungsberechtigte klare Grenzen setzen, welche Daten sie nicht an ChatGPT weitergeben dürfen. Ermutige jüngere Nutzer, die Antworten von ChatGPT zu hinterfragen und zu überprüfen, anstatt sie einfach ungeprüft zu akzeptieren. Beobachte die Interaktionen. Damit stellst Du sicher, dass die Antworten altersgerecht sind.

Vorsichtig bei Inhalten von externen Quellen

ChatGPT kann Links zu externen Websites anzeigen. Wie bei jedem Link solltest Du überprüfen, ob die Zielseite seriös ist, bevor Du sie öffnest oder persönliche Daten eingibst.

Du kannst einen Link überprüfen, indem Du mit der Maus darüberfährst (auf dem Desktop) oder lange darauf drückst (auf dem Smartphone), um eine Vorschau der Ziel-URL anzuzeigen. Überprüfe, ob die Domain mit der erwarteten Quelle übereinstimmt. Ein Link für Wikipedia sollte auch zu einer Seite von wikipedia.org führen und nicht zu einer ähnlich aussehenden Domain mit zusätzlichen Worten, Schreibfehlern oder ungewöhnlichen Zeichen.

Klick nicht auf Pop-up-Fenster oder verdächtige Anzeigen. Lade zudem keine Dateien herunter oder gib auf unbekannten Websites keine persönlichen Daten ein.

Erwäge den Einsatz von ExpressAI

ExpressAI ist eine KI-Plattform mit Fokus auf Datenschutz. Sie bietet Zugang zu mehreren KI-Modellen, darunter das Open-Weight-Modell gpt-oss-120b von OpenAI.

ExpressAI basiert auf sogenanntem Confidential Computing. Eingabeaufforderungen und Dateien werden verschlüsselt und in einer privaten Enklave verarbeitet. Es können also weder ExpressVPN noch die Modellanbieter auf Chats zugreifen oder sie mitlesen. Benutzereingaben werden nicht zum Trainieren von Modellen verwendet.

Cure53 hat einen unabhängigen Sicherheits-Audit durchgeführt. Der veröffentlichte Bericht umfasst Tests des Clients, des Backends, der Kryptografie, der Schlüsselverwaltung sowie der Infrastruktur.

Die Funktionen sollen das Risiko von unbefugtem Zugriff, Datenlecks und der Verwendung persönlicher Eingabeaufforderungen beim Modelltraining verringern. ExpressAI ist in den Pro-Paketen von ExpressVPN enthalten.

FAQ: Häufige Fragen über die Sicherheit und den Datenschutz von ChatGPT