Auf der KI-Entwicklungsplattform Hugging Face haben IT-Forscher bösartige ML-Modelle entdeckt. Angreifer könnten damit Befehle einschleusen.
IT-Forscher haben in den Repositories von Hugging Face bösartig manipulierte Machine-Learning-Modelle entdeckt. Die konkreten gefundenen ML-Modelle haben eine Reverse Shell auf infizierten Systemen geöffnet. Entwickler und Interessierte können bei Hugging Face etwa Datensätze und, etwa auch "abgespeckte" Fassungen der KI-Modelle von Deepseek, Mistral oder Qwen, die sich auf schwächerer Hardware daheim nutzen lassen.
Die beiden bösartigen Dateien liegen im PyTorch-Format vor, was im Kern ein komprimiertes Pickle sei. Standardmäßig kommt ZIP-Kompression dafür zum Einsatz, aber diese Modelle wurden mit 7z komprimiert. Dadurch kann die PyTorch-Standardfunktionsie nicht laden. Die IT-Forscher gehen davon aus, dass der HF Picklescan deshalb die Datei nicht als unsicher markiert hat.
Denn als weitere Verschleierungstaktik ist bei beiden Dateien die Objekt-Serialisierung kurz nach der bösartigen Nutzlast defekt. Dadurch kommt es bei der Dekompilierung des Objekts zu Fehlern. Wie bei bisher bekannter Malware nutzen die Angreifer auch hier die Versteckvariante, der Erkennung durch defekte Formate zu entgehen. Sie funktionieren zwar im Zielsystem wie gewünscht, aber können von den Parsern in Sicherheitssoftware nicht korrekt analysiert werden.
Als Beispiele, was Angreifer durch das Missbrauchen dieser Deserialisierungslücke anstellen können, nennen die IT-Forscher etwa die Ausführung bösartiger Befehle, das Öffnen von Netzwerkverbindungen, die Erstellung neuer Prozesse oder den Zugriff auf Kameras, Mikrofone und Dateisysteme. Die konkreten Samples enthielten eine je nach Plattform angepasste Reverse-Shell, die auf eine hartkodierte IP-Adresse verbindet.
KI-Modelle RCE Security Kompromittiert
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Hugging Face integriert serverlose InferenzDie KI-Entwicklungsplattform Hugging Face bietet Entwicklern nun den Zugriff auf serverlose Inferenzanbieter direkt in ihren Dienst. Entwickler können ihre KI-Modelle so ohne Hardware-Verwaltung auf der Infrastruktur verschiedener Dienstleister ausführen.
Weiterlesen »
Ohne Mehrkosten: Hugging Face bietet serverlose Inferenzen von Drittanbietern anKI-Entwickler können nun auf Hugging Face ausgewählte serverlose Inferenzanbieter direkt ansteuern. Zusätzliche Kosten sollen ihnen dadurch nicht entstehen.
Weiterlesen »
Google stellt verbesserte Reasoning-Modelle Gemini 2.0 Flash Thinking vorGoogle erweitert seine Gemini-KI-Modelle um neue Reasoning-Modelle im experimentellen Status. Gemini 2.0 Flash Thinking ermöglicht einen Denkprozess während der Antwortgenerierung, indem es Prompt-Eingaben analysiert und Lösungswege testet. Nutzer der Gemini-App können die Modelle kostenlos nutzen. Ein kostenpflichtiges Abo bietet priorisierten Zugang. Google kündigt an, diese Modelle als Grundlage für Agenten-Systeme zu verwenden.
Weiterlesen »
DeepSeek-KI: Urheberrechtsvorwurf gegen OpenAI wegen ChatGPT-DatenDie chinesische KI-Firma DeepSeek steht wegen des Verdachts im Raum, Daten von ChatGPT für die Entwicklung ihrer eigenen Modelle verwendet zu haben, vor Anschuldigungen der Urheberrechtsverletzung. OpenAI klagt DeepSeek an, die Nutzungsbedingungen des Textmodells verletzt zu haben, indem sie den Output von ChatGPT zur Optimierung ihrer eigenen Modelle nutzte. DeepSeek hatte in den letzten Wochen mehrere leistungsstarke KI-Modelle veröffentlicht, die mit ChatGPT mithalten können.
Weiterlesen »
Mitsubishi plant zwei neue Modelle für 2025Mitsubishi erweitert sein europäisches Modellprogramm und plant die Einführung eines neuen C-Segment-SUV sowie eines Modells, das auf dem neuen elektrischen Renault Scenic basiert.
Weiterlesen »
Balkonkraftwerk unter 400 Euro: Welche Modelle lohnen sich?Balkonkraftwerke sind mittlerweile schon für einen günstigen Preis unter 400 Euro zu haben, aber lohnen sich die preiswerten Modelle? Und worauf sollten K...
Weiterlesen »