Wie ein Forscher den Speicher von ChatGPT gehackt hat, um eine große Sicherheitslücke aufzudecken

ChatGPT ist ein erstaunliches Toolund sein Entwickler OpenAI fügt von Zeit zu Zeit neue Funktionen hinzu.

Vor kurzem hat das Unternehmen eine neue Speicherfunktion in ChatGPT eingeführt, die es im Wesentlichen ermöglicht, sich an Dinge über Sie zu erinnern. Es kann sich beispielsweise an Ihr Alter, Ihr Geschlecht, Ihre philosophischen Überzeugungen und so ziemlich alles andere erinnern.

Diese Erinnerungen sollen privat bleiben, aber ein Forscher hat kürzlich gezeigt, wie ChatGPT funktioniert künstliche Intelligenz Speicherfunktionen können manipuliert werden, was Fragen zu Datenschutz und Sicherheit aufwirft.

Ich verschenke eine Geschenkkarte im Wert von 500 $ für die Feiertage

Was ist die Speicherfunktion von ChatGPT?

Die Speicherfunktion von ChatGPT soll den Chatbot für Sie persönlicher gestalten. Es merkt sich Informationen, die für zukünftige Gespräche nützlich sein könnten, und passt die Antworten auf der Grundlage dieser Informationen an, selbst wenn Sie einen anderen Chat öffnen. Wenn Sie beispielsweise erwähnen, dass Sie Vegetarier sind, werden Ihnen beim nächsten Mal, wenn Sie nach Rezepten fragen, nur vegetarische Optionen angezeigt.

WAS IST KÜNSTLICHE INTELLIGENZ (KI)?

Sie können ihm auch beibringen, sich bestimmte Details über Sie zu merken, z. B. zu sagen: „Denken Sie daran, dass ich gerne klassische Filme schaue.“ Bei zukünftigen Interaktionen werden die Empfehlungen entsprechend angepasst. Sie haben die Kontrolle darüber ChatGPTs Speicher. Sie können es zurücksetzen, bestimmte Speicher oder alle Speicher löschen oder diese Funktion in Ihren Einstellungen vollständig deaktivieren.

Eine Eingabeaufforderung auf ChatGPT. (Kurt „CyberGuy“ Knutsson)

WINDOWS-FEHLER ERMÖGLICHT HACKERN, ÜBER WLAN IN IHREN PC ZU SCHLEICHEN

Die Sicherheitslücke in ChatGPT

Wie berichtet von KunsttechnikDer Sicherheitsforscher Johann Rehberger hat herausgefunden, dass es möglich ist, die KI durch eine Methode namens Indirect Prompt Injection dazu zu bringen, sich falsche Informationen zu merken. Dies bedeutet, dass die KI so manipuliert werden kann, dass sie Anweisungen aus unzuverlässigen Quellen wie E-Mails oder Blogbeiträgen akzeptiert.

Rehberger zeigte beispielsweise, dass er ChatGPT dazu verleiten konnte, zu glauben, ein bestimmter Benutzer sei 102 Jahre alt, lebe an einem fiktiven Ort namens Matrix und glaube, die Erde sei flach. Nachdem die KI diese erfundenen Informationen akzeptiert hat, überträgt sie sie auf alle zukünftigen Chats mit diesem Benutzer. Diese falschen Erinnerungen könnten durch die Verwendung von Tools wie Google Drive oder Microsoft OneDrive zum Speichern von Dateien, Hochladen von Bildern oder sogar zum Durchsuchen einer Website wie Bing implantiert werden – alles könnte von einem Hacker manipuliert werden.

Rehberger legte einen Folgebericht vor, der einen Proof of Concept enthielt und zeigte, wie er den Fehler in der ChatGPT-App für macOS ausnutzen konnte. Er zeigte, dass er die KI dazu bringen konnte, alles, was ein Benutzer eingegeben hatte, und alle Antworten der KI an einen von ihm kontrollierten Server zu senden, indem er die KI dazu brachte, einen Weblink mit einem schädlichen Bild zu öffnen. Das bedeutete, dass ein Angreifer, wenn er die KI auf diese Weise manipulieren könnte, alle Gespräche zwischen dem Benutzer und ChatGPT überwachen könnte.

Rehbergers Proof-of-Concept-Exploit zeigte, dass die Sicherheitslücke genutzt werden könnte, um alle Benutzereingaben auf Dauer herauszufiltern. Der Angriff ist dank einer im letzten Jahr eingeführten API OpenAI nicht über die ChatGPT-Weboberfläche möglich. Über die ChatGPT-App für macOS war dies jedoch weiterhin möglich.

Als Rehberger den Befund im Mai privat an OpenAI meldete, nahm das Unternehmen dies ernst und entschärfte dieses Problem, indem es sicherstellte, dass das Modell keinen in seinen eigenen Antworten generierten Links folgt, etwa denen, die Speicher und ähnliche Funktionen betreffen.

So entfernen Sie Ihre privaten Daten aus dem Internet

Johann Rehberger’s ChatGPT conversation. (Johann Rehberger)

CYBER-BETRÜGER VERWENDEN KI, UM GOOGLE-SUCHERGEBNISSE ZU MANIPULIEREN

Antwort von OpenAI

Nachdem Rehberger seinen Proof of Concept vorgelegt hatte, ergriffen die OpenAI-Ingenieure Maßnahmen und veröffentlichten einen Patch, um diese Schwachstelle zu beheben. Sie haben eine neue Version der ChatGPT-MacOS-Anwendung (Version 1.2024.247) veröffentlicht, die Konversationen verschlüsselt und die Sicherheitslücke behebt.

Obwohl OpenAI Schritte unternommen hat, um die unmittelbare Sicherheitslücke zu beheben, gibt es immer noch potenzielle Schwachstellen im Zusammenhang mit der Speichermanipulation und die Notwendigkeit einer ständigen Wachsamkeit bei der Verwendung von KI-Tools mit Speicherfunktionen. Der Vorfall unterstreicht die sich entwickelnde Natur der Sicherheitsherausforderungen in KI-Systemen.

Das Unternehmen sagt: „Es ist wichtig zu beachten, dass die schnelle Injektion in große Sprachmodelle ein Bereich der laufenden Forschung ist. Wenn neue Techniken auftauchen, gehen wir sie auf der Modellebene an.“ Befehlshierarchie oder Abwehrmaßnahmen auf Anwendungsebene wie die oben genannten.“

Wie deaktiviere ich den ChatGPT-Speicher?

Wenn Sie nicht damit einverstanden sind, dass ChatGPT Daten über Sie speichert oder die Gefahr besteht, dass dadurch ein Angreifer Zugriff auf Ihre Daten erhält, können Sie diese Funktion einfach in den Einstellungen deaktivieren.

• Öffnen Sie die ChatGPT-App oder Website auf Ihrem Computer oder Smartphone.
• Klicken Sie auf Profilsymbol in der oberen rechten Ecke des Bildschirms.
• Gehe zu Einstellungen und wählen Sie dann Personalisierung aus.
• Schalten Sie die Speicheroption um aus, und schon sind Sie fertig.

Dadurch wird die Fähigkeit von ChatGPT deaktiviert, Informationen zwischen Gesprächen aufzubewahren, sodass Sie die volle Kontrolle darüber haben, was es sich merkt oder vergisst.

ERHALTEN SIE FOX BUSINESS UNTERWEGS, indem Sie HIER KLICKEN

Ein Mann nutzt ChatGPT auf seinem Laptop (Kurt „CyberGuy“ Knutsson)

LASSEN SIE MIT DIESEM KURZEN TIPP NICHT ZU, DASS SNOOPS IN DER NÄHE IHRE VOICEMAIL MITHÖREN

Best Practices für Cybersicherheit: Schutz Ihrer Daten im Zeitalter der KI

Da KI-Technologien wie ChatGPT immer häufiger eingesetzt werden, ist es wichtig, die Best Practices für Cybersicherheit einzuhalten, um Ihre persönlichen Daten zu schützen. Hier sind einige Tipps zur Verbesserung Ihrer Cybersicherheit:

1. Überprüfen Sie regelmäßig die Datenschutzeinstellungen: Bleiben Sie darüber informiert, welche Daten erfasst werden. Überprüfen und passen Sie die Datenschutzeinstellungen regelmäßig auf KI-Plattformen wie ChatGPT und anderen an, um sicherzustellen, dass Sie nur Informationen weitergeben, mit denen Sie einverstanden sind.

2. Seien Sie vorsichtig bei der Weitergabe sensibler Informationen: Wenn es um personenbezogene Daten geht, ist weniger mehr. Vermeiden Sie es, in Gesprächen mit AI vertrauliche Daten wie Ihren vollständigen Namen, Ihre Adresse oder Finanzinformationen preiszugeben.

3. Verwenden Sie sichere, eindeutige Passwörter: Erstellen Sie Passwörter mit einer Länge von mindestens 12 Zeichen, die Buchstaben, Zahlen und Symbole kombinieren, und vermeiden Sie die Wiederverwendung für verschiedene Konten. Erwägen Sie die Verwendung von a Passwort-Manager komplexe Passwörter zu generieren und zu speichern.

4. Aktivieren Sie die Zwei-Faktor-Authentifizierung (2FA): Fügen Sie Ihrem ChatGPT und anderen AI-Konten eine zusätzliche Sicherheitsebene hinzu. Durch die Anforderung einer zweiten Form der Verifizierung, beispielsweise eines SMS-Codes, verringern Sie das Risiko eines unbefugten Zugriffs erheblich.

5. Halten Sie Software und Anwendungen auf dem neuesten Stand: Bleiben Sie Schwachstellen immer einen Schritt voraus. Regelmäßige Updates enthalten häufig Sicherheitspatches, die vor neu entdeckten Bedrohungen schützen. Aktivieren Sie daher nach Möglichkeit automatische Updates.

6. Verfügen Sie über eine starke Antivirensoftware: In einer Zeit, in der KI allgegenwärtig ist, ist der Schutz Ihrer Daten vor Cyber-Bedrohungen wichtiger denn je. Das Hinzufügen starker Antivirensoftware zu Ihren Geräten fügt eine wichtige Schutzebene hinzu. Der beste Weg, sich vor bösartigen Links zu schützen, die Malware installieren und möglicherweise auf Ihre privaten Daten zugreifen, besteht darin, auf allen Ihren Geräten eine starke Antivirensoftware zu installieren. Dieser Schutz kann Sie auch vor Phishing-E-Mails und Ransomware-Betrug warnen und so Ihre persönlichen Daten und digitalen Vermögenswerte schützen. Holen Sie sich meine Auswahl der besten Virenschutz-Gewinner 2024 für Ihre Windows-, Mac-, Android- und iOS-Geräte.

7. Überwachen Sie regelmäßig Ihre Konten: Erkennen Sie Probleme frühzeitig. Überprüfen Sie regelmäßig Kontoauszüge und Online-Konten auf ungewöhnliche Aktivitäten, um potenzielle Aktivitäten zu erkennen Verstöße schnell.

Kurts wichtigste Erkenntnisse

Da KI-Tools wie ChatGPT immer intelligenter und persönlicher werden, ist es sehr interessant, darüber nachzudenken, wie sie Gespräche auf uns zuschneiden können. Doch wie uns die Ergebnisse von Johann Rehberger zeigen, gibt es einige echte Risiken, insbesondere wenn es um Datenschutz und Sicherheit geht. Obwohl OpenAI in der Lage ist, diese auftretenden Probleme zu entschärfen, zeigt es auch, dass wir die Funktionsweise dieser Funktionen genau im Auge behalten müssen. Es geht darum, den richtigen Kompromiss zwischen Innovation und der Sicherheit unserer Daten zu finden.

KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN

Was denken Sie über die Speicherung persönlicher Daten durch KI – finden Sie sie hilfreich oder wirft sie bei Ihnen Datenschutzbedenken auf? Lassen Sie es uns wissen, indem Sie uns schreiben an Cyberguy.com/Kontakt

Für weitere technische Tipps und Sicherheitswarnungen abonnieren Sie meinen kostenlosen CyberGuy Report-Newsletter unter Cyberguy.com/Newsletter

Stellen Sie Kurt eine Frage oder teilen Sie uns mit, welche Geschichten wir behandeln sollen.

Folgen Sie Kurt auf seinen sozialen Kanälen:

Antworten auf die am häufigsten gestellten CyberGuy-Fragen:

Neu von Kurt:

Copyright 2024 CyberGuy.com. Alle Rechte vorbehalten.