OpenAI hat kürzlich seinen neuen KI-gestützten Webbrowser ChatGPT Atlas auf den Markt gebracht. Der KI-Browser ist derzeit für macOS verfügbar, Versionen für Android, iOS und Windows sind in Vorbereitung. Ganz zu schweigen davon, dass die Einführung die Aufmerksamkeit vieler auf sich zog, da Atlas das Surfen verändern möchte, indem es Benutzern ermöglicht, Dienste direkt über ChatGPT zu suchen, zu planen und sogar zu buchen.
Allerdings warnen Cybersicherheitsexperten bereits vor potenziellen Schwachstellen in Atlas (via Fortune). Sie warnen davor, dass KI-Browser wie Atlas Prompt-Injection-Angriffen ausgesetzt sein könnten, bei denen bösartige Webseiten versteckte Anweisungen an die KI weiterleiten, um Daten zu extrahieren oder schädliche Aktionen auszuführen.
Diese versteckten Eingabeaufforderungen könnten die KI dazu verleiten, ohne Absicht des Benutzers persönliche Informationen preiszugeben oder auf vertrauliche Konten zuzugreifen. „Es wird immer ein gewisses Restrisiko bei sofortigen Injektionen geben, denn das liegt in der Natur von Systemen, die natürliche Sprache interpretieren“, sagte George Chalhoub, Assistenzprofessor am UCL Interaction Centre.
Als Reaktion auf Bedenken sagte Dane Stuckey, Chief Information Security Officer von OpenAI, dass das Unternehmen diese Risiken „sehr sorgfältig untersucht und entschärft“. „Unser langfristiges Ziel ist es, dass Sie dem ChatGPT-Agenten bei der Verwendung Ihres Browsers vertrauen können, genauso wie Sie Ihrem kompetentesten, vertrauenswürdigsten und sicherheitsbewusstesten Kollegen oder Freund vertrauen würden“, fügte Stuckey hinzu.
Er fügte hinzu, dass OpenAI überlappende Leitplanken, Red-Teaming und schnelle Reaktionssysteme eingeführt habe, räumte jedoch ein, dass „die sofortige Injektion ein bahnbrechendes, ungelöstes Sicherheitsproblem bleibt“.
Haben Sie den Atlas-Browser schon ausprobiert? Wenn Sie dies noch nicht getan haben und es herunterladen und erfahren möchten, wie Sie es verwenden, lesen Sie unseren Leitfaden.
*️⃣ Quelllink:
ChatGPT Atlas, Fortune, lesen Sie unseren Leitfaden,