Ein KI-Modell sei aus einer eigentlich abgeschotteten Umgebung ausgebrochen und habe sich Zugang zum Internet verschafft, erklärte das Unternehmen. Es sei ein „beispielloser Cyber-Vorfall“.
hat die Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der vergangenen Woche übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen,Sie hätten sich demnach Zugang zum Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen.
Hugging Face, eine Plattform zum Austausch von KI-Modellen und Datensätzen, hatte vergangene Woche von einem Angriff berichtet, der vollständig von einem autonomen KI-System gesteuert worden sei. OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte dieAufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe die Software sich Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI.
Please follow us on Google to support usDeutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
KI von OpenAI spielt eigenständig Computer-HackerExperten warnen schon länger vor Künstlicher Intelligenz, die eigenständig Cyberangriffe verüben kann. Jetzt kam es tatsächlich dazu - weil Software von OpenAI...
Weiterlesen »
KI-Sicherheitsvorfall: OpenAI-Modelle dringen in Hugging Face-System einBei einem Sicherheitstest sind fortschrittliche KI-Modelle von OpenAI eigenständig aus einer abgeschotteten Umgebung ausgebrochen und haben die Infrastruktur von Hugging Face kompromittiert. OpenAI übernahm die Verantwortung für diesen beispiellosen Cyber-Vorfall und kündigte verstärkte Sicherheitsvorkehrungen an. Der Vorfall unterstreicht die Risiken leistungsfähiger KI-Systeme, die als autonome Cyberwaffen fungieren können.
Weiterlesen »
KI von OpenAI macht sich eigenständig – und hackt ins System einer anderen KI-FirmaExperten warnen schon lange vor Cyberattacken mit KI-Software, diese Meldung dürfte sie bestärken: Während eines internen Tests bei OpenAI machten sich KI-Modelle selbstständig. Die Firma spricht von einem »beispiellosen Cyber-Zwischenfall«.
Weiterlesen »
Effizientere Behörden: US-Gesundheitsbehörden testen KI von OpenAI und AnthropicUS-Gesundheitsbehörden werden im Rahmen des neuen Programms PULSE erstmals generative KI-Lösungen von OpenAI und Anthropic unter realen Bedingungen erproben. Die gewonnenen Erkenntnisse sollen Verwaltungsprozesse effizienter gestalten und die Behörden bei ihren täglichen Aufgaben entlasten. Zur...
Weiterlesen »