Anthropic erweitert sein Sicherheitsprogramm Project Glasswing um rund 150 weitere Organisationen und Unternehmen.
Bereits Anfang April hatte das Unternehmen den rund 50 ersten Partnerorganisationen Zugriff auf die Claude-Mythos-Preview gewährt, damit diese ihre Sicherheitsmechanismen verbessern konnten. Durch die Zusammenarbeit konnte Mozilla unter anderem mithilfe von Claude Mythos überbeheben, die allein während der ersten Auswertung entdeckt wurden.
Mozilla betonte in einer Stellungnahme allerdings, dass Claude Mythos kein Wundermittel sei und dass das KI-Modell keine Sicherheitslücken aufdecken konnte, die menschliche Experten mit ausreichend Zeit und Ressourcen nicht ebenfalls gefunden hätten. Genau diese beiden Faktoren fehlen in der Praxis jedoch häufig. Bereits der dadurch gewonnene Zeitvorteil dürfte daher ein wichtiger Schritt hin zu mehr Sicherheit sein. Auch die Bilanz anderer Partner fällt laut Anthropic positiv aus.
Mithilfe von Claude Mythos Preview sollen inzwischen mehr als 10.000 Sicherheitslücken mit hoher oder kritischer Schwere identifiziert worden sein. Sicherheitsexperten warnen bereits seit längerer Zeit davor, dass günstige und schnelle KI-Modelle mit ausgeprägten Cyberfähigkeiten schon in naher Zukunft verfügbar werden könnten, gegen die bisherige Sicherheitslösungen kaum wirksam seien. Anthropic geht davon aus, dass innerhalb der kommenden sechs bis zwölf Monate auch andere KI-Unternehmen Modelle mit ähnlichen Fähigkeiten wie Claude Mythos Preview veröffentlichen werden.
Der KI-Spezialist rechnet allerdings damit, dass viele dieser Systeme ohne ausreichende Schutzmaßnahmen gegen Missbrauch erscheinen. Dadurch könnten Cyberangriffe häufiger, schneller und deutlich schwerer vorhersehbar werden. Project Glasswing versteht Anthropic deshalb auch als Versuch, dieser Entwicklung mit neuen Standards und Arbeitsweisen entgegenzuwirken.teilte Anthropic nun mit, dass die zuvor angekündigte Erweiterung umgesetzt wurde und fast 150 weitere Unternehmen sowie Organisationen aus mehr als 15 Ländern in das Programm aufgenommen wurden.
Darunter befinden sich auch Branchen, die im Projekt bislang unterrepräsentiert waren, etwa Energie- und Wasserversorgung, Gesundheitswesen, Kommunikation und Hardware. Viele der neuen Teilnehmer sind Anbieter oder Maintainer von Software, deren Code weltweit von Unternehmen, Behörden und kritischer Infrastruktur genutzt wird. Ein Angriff auf deren Systeme könnte Anthropic zufolge schnell Auswirkungen auf mehr als 100 Millionen Menschen haben und sowohl nationale als auch globale Sicherheitsrisiken auslösen.
Anthropic sieht das größte Problem inzwischen allerdings nicht mehr primär im Auffinden von Schwachstellen, sondern vielmehr im Überprüfen, Offenlegen und Schließen der großen Zahl entdeckter Sicherheitslücken. Claude-Mythos-Preview wird deshalb zunehmend auch für defensive Aufgaben eingesetzt, darunter das Schreiben von Patches, Sicherheitsprüfungen vor Software-Releases, Penetrationstests, automatisierte Bedrohungserkennung sowie die Modernisierung älterer Code-Basen hin zu speichersicheren Programmiersprachen.
Darüber hinaus führt Anthropic nach eigenen Angaben bereits seit einiger Zeit Gespräche mit Drittparteien darüber, wie sich das Prüfen und Patchen von Open-Source-Software massiv skalieren lässt. Gleichzeitig soll auch die Offenlegung von Sicherheitslücken gegenüber Open-Source-Maintainern verbessert werden. Das Unternehmen betont aber ebenso erneut, dass Modelle mit Mythos-Fähigkeiten langfristig zwar breiter verfügbar gemacht werden sollen, dafür jedoch zunächst sehr robuste Schutzmechanismen erforderlich seien, um möglichen Missbrauch zu verhindern.
Solche Mechanismen seien derzeit allerdings noch bei keinem Anbieter vorhanden und müssten daher erst entwickelt werden. Anthropic plant deshalb vorerst lediglich eine schrittweise Ausweitung von Project Glasswing. Vorrang erhalten dabei Betreiber kritischer Infrastruktur, Maintainer wichtiger Open-Source-Projekte sowie Sicherheitsforscher. … oder ComputerBase Pro bestellenPartner verarbeiten personenbezogene Daten, indem wir mit auf Ihrem Gerät gespeicherten Informationen ein Nutzungsprofil erstellen, um z. B. Anzeigen zu personalisieren. Verarbeitungszwecke: Genaue Standortdaten und Abfrage von Geräteeigenschaften zur Identifikation, Informationen auf einem Gerät speichern und/oder abrufen, Personalisierte Anzeigen und Inhalte, Anzeigen- und Inhaltsmessungen, Erkenntnisse über Zielgruppen und Produktentwicklungen.
Please follow us on Google to support us Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
KI-Update: Anti-Tech, Anthropic, KI in Frankreich, KI-generierter SpielfilmDas 'KI-Update' liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Weiterlesen »
Anthropic: EU bekommt Zugang zu KI-Modell „Mythos“Anthropic gewährt der EU-Cybersicherheitsagentur Zugang zu seinem Sprachmodell. Das KI-Tool kann Schwachstellen in Systemen aufspüren, zahlreiche US-Firmen nutzen es bereits.
Weiterlesen »
OpenAI-Rivale Anthropic will an die BörseSan Francisco - Die KI-Firma Anthropic, die der schärfste Rivale des ChatGPT-Entwicklers OpenAI ist, nimmt Kurs auf die Börse. Ein Antrag für eine
Weiterlesen »
Absicherung von Software: Anthropic öffnet „Project Glasswing“ für EuropaIn „Project Glasswing“ dürften Verantwortliche von sicherheitsrelevanter Software mit der KI Mythos nach Schwachstellen suchen. Nun auch in Deutschland.
Weiterlesen »