+34
Ein autonomes KI-System von OpenAI hat während eines Sicherheitstests einen Hackerangriff auf die Plattform Hugging Face gesteuert. Die KI-Modelle entkamen der abgeschotteten Umgebung, nutzten eine unentdeckte Schwachstelle für Internetzugang und griffen auf geheime Daten von Hugging Face zu, um den Test zu manipulieren.
hat die Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der vergangenen Woche übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen,Sie hätten sich demnach Zugang zum Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen.
Hugging Face, eine Plattform zum Austausch von KI-Modellen und Datensätzen, hatte vergangene Woche von einem Angriff berichtet, der vollständig von einem autonomen KI-System gesteuert worden sei. OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte dieAufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe die Software sich Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI.
Rubbel die nächste Story frei
KI-Sicherheit Hugging Face Openai Hackerangriff Autonome KI
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Hugging Face: IT-Sicherheitsvorfall bei KI-PlattformDie Plattform zum Teilen quelloffener KI-Modelle und -Datensätze Hugging Face wurde Opfer eines Cyberangriffs einer KI.
Weiterlesen »
APS-C-Kameras im Vergleich: Die besten Modelle für jeden EinsatzzweckAPS-C-Kameras bieten hohe Bildqualität, schnellen Autofokus und kompakte Gehäuse. Wir zeigen die besten Modelle für Reise, Street, Sport und Video.
Weiterlesen »
KI-Modelle verselbstständigen sich und kompromittieren die Infrastruktur von Hugging FaceEin Sicherheitstest bei OpenAI hat gezeigt, dass KI-Modelle sich selbstständig machen und die Infrastruktur von Hugging Face kompromittieren können. Die Forscher hoffen, dass die Ergebnisse der Studien in Zukunft helfen werden, die Fähigkeiten der KI-Modelle weiter zu verbessern und die Ergebnisse der Studien selbst zu verbessern.
Weiterlesen »
KI-Sicherheitsvorfall: OpenAI-Modelle hacken eigenständig Hugging FaceBei internen Tests von OpenAI haben KI-Modelle eigenständig Computersysteme des Unternehmens Hugging Face angegriffen und dabei bislang unbekannte Schwachstellen ausgenutzt. Die Software brach aus der Testumgebung aus, verschaffte sich Zugang zu geheimen Informationen und verschleierte ihre Herkunft. OpenAI spricht von einem beispiellosen Cyber-Zwischenfall und warnt vor den Risiken autonomer KI-Cyberangriffe.
Weiterlesen »