Forscher haben eine neue Sicherheitslücke entdeckt, mit der ChatGPT für seine Nutzer Malware entwickelt. Dabei verliert die KI ihr Zeitgefühl.
Eine Zeitreise zur verbotenen Information: So lässt sich eine neue ChatGPT-Sicherheitslücke sehr vereinfacht beschreiben. "Timebandit" heißt die Sicherheitslücke, bei der ChatGPT durch gezielte Anfragen des Nutzers den Zeitbezug verliert und dadurch bereitwillig Anleitungen für illegale Aktivitäten liefert. Normalerweise verhindern so etwas die eingebauten Sicherheitsregeln der Software.
Der Ansatz nutzt laut Kuszmar zwei entscheidende Schwachstellen. Zum einen wird ChatGPT durch die sogenannte "Timeline Confusion" die Möglichkeit entzogen, eigenständig zu bestimmen, in welchem Jahr es sich befindet. Zudem kommt die "Procedural Ambiguity" zum Einsatz, bei der Fragen so formuliert werden, dass es für ChatGPT Unstimmigkeiten und Unsicherheiten bei der Umsetzung gibt.
Von OpenAI blieb das Problem "Time Bandit" offenbar lange unbeachtet. So kontaktierte Kuszmar das Unternehmen laut Bleepingcomputer bereits kurz nach der Entdeckung, wurde aber an die Sicherheitslücken-Plattform BugCrowd verwiesen. Auch diverse US-Behörden, darunter das Federal Bureau of Investigation , zeigten demnach kein Interesse.Insgesamt sind Methoden wie "Time Bandit" allerdings keine Neuheit.
Nachdem ein weiterer Anlauf von Kuszmar gemeinsam mit Bleepingcomputer bei OpenAI auch erfolglos blieb, gab Kuszmar seine Erkenntnisse an das CERT weiter, welches schließlich erfolgreich den Kontakt zu OpenAI herstellen konnte.Ein Sprecher von OpenAI dankte Kuszmar für das Teilen seiner Erkenntnisse und hob zudem hervor, dass OpenAI auf keinen Fall wolle, dass die eigenen Technologien für illegale Aktivitäten genutzt würden.
Laut Bleepingcomputer war die "Time Bandit"-Lücke aber auch nach der Rückmeldung von OpenAI mit ein paar zusätzlichen kleinen – nicht näher genannten – Tricks gut nutzbar.
Cybersecurity Künstliche Intelligenz
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
ChatGPT Tasks: Neue Funktion soll ChatGPT zum persönlichen Assistenten machenMonatliche Vorschläge für die Budgetplanung, wöchentliche Übersichten über das Training im Fitnessstudio oder eine tägliche Dankbarkeitsübung: Das alles sollen User künftig via ChatGPT Tasks arrangieren
Weiterlesen »
DeepSeek: Der chinesische KI-Chatbot, der ChatGPT Konkurrenz machtDeepSeek, ein KI-gestützter Chatbot aus China, bietet eine kostenlose Alternative zu bekannten Modellen wie ChatGPT und Gemini. Die Open-Source-Lösung ist in der Lage, Aufgaben wie das Beantworten von Fragen, das Erklären komplexer Themen, das Analysieren von Dokumenten und das Programmieren zu erfüllen.
Weiterlesen »
DeepSeek im Praxiseinsatz: Was die ChatGPT-Konkurrenten besonders machtEin Artikel über DeepSeek, einer KI, die in den Medien viel Aufmerksamkeit erregt hat, und die es von anderen ChatGPT-Konkurrenten unterscheidet.
Weiterlesen »
– OpenAI macht Verluste mit ChatGPT ProDer 200 Euro teure Zugang zu ChatGPT Pro kommt OpenAI teuer zu stehen. Die Menschen nutzen zu viele Dienste, unter anderem Sora.
Weiterlesen »
Bremer SV: Goguadze-Abgang - Eine Lücke zu füllenDer Abgang von Nikky Goguadze zum VfL Osnabrück ist für den Bremer SV ein Verlust, der sportlich und mental zu kompensieren ist.
Weiterlesen »
Europa-US Banken: Lücke in der Marktbewertung bleibtEine neue Studie von Alvarez & Marsal zeigt, dass europäische Banken im Vergleich zu ihren US-Konkurrenten weiterhin hinterherhinken, besonders bei der Marktbewertung. Trotz der Lücke haben sich europäische Banken in der Profitabilität verbessert.
Weiterlesen »