+34
OpenAI verliert einen langjährigen Mitarbeiter aus dem Sicherheitsbereich. David Robinson begründet seinen Abschied mit Bedenken über den Umgang des Unternehmens mit den Risiken immer leistungsfähigerer KI-Systeme.
Robinson warf dem KI-Konzern vor, bei der Entwicklung immer leistungsfähigerer Systeme zu schnell vorzugehen. »Die Zeit für Versuch und Irrtum ist vorbei«, schreibt er in dem Artikel.
Seiner Meinung nach sind bei fortgeschrittenen KI-Systemen Sicherheitsvorkehrungen erforderlich, die eher mit denen in Bereichen wie der Atomkraft oder der Luftfahrt vergleichbar sind. Robinson war eigenen Angaben zufolge dreieinhalb Jahre bei OpenAI tätig. Er war demnach an der Entwicklung des sogenannten Preparedness Frameworks beteiligt und betreute Sicherheitsberichte zu zwölf Starts sogenannter Frontier-Modelle (mehr dazu, welche KI-Begriffe Sie kennen sollten, OpenAI setzt bei der Entwicklung seiner Modelle unter anderem auf einen Ansatz, den das Unternehmen als »iterative Bereitstellung« bezeichnet.
Dabei werden Systeme veröffentlicht und Sicherheitsvorkehrungen angepasst, wenn im praktischen Einsatz Probleme auftreten. Robinson kritisiert diesen Ansatz. Seiner Meinung nach reicht dieser angesichts der rasanten Entwicklung der KI nicht aus. Die Fähigkeiten der Systeme entwickelten sich schneller als das Verständnis der Forscher darüber, wie sich diese zuverlässig an menschlichen Zielen und Werten ausrichten lassen.
OpenAI weist die Kritik zurück. Ein Sprecher des Unternehmens erklärte, OpenAI stelle sicher, dass seine Modelle nicht leistungsfähiger würden, als sie sicher betrieben und kontrolliert werden könnten. Wenn es notwendig sei, werde das Training pausiert oder die Veröffentlichung eines Modells zurückgehalten. Robinsons Kritik fügt sich in eine breitere Debatte über das Tempo der KI-Entwicklung ein.
Auch andere Unternehmen der Branche stehen wegen Sicherheitsfragen und dem unerwarteten Verhalten experimenteller Systeme unter Beobachtung (mehr dazuHaben Sie einen Fehler im Text gefunden, auf den Sie uns hinweisen wollen? Oder gibt es ein technisches Problem? Melden Sie sich gern mit Ihrem Anliegen.
Rubbel die nächste Story frei
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Künstliche Intelligenz: Französischer Supercomputer-Bauer verdoppelt ProduktionDie Nachfrage nach Hochleistungsrechnern steigt deutlich, auch dank milliardenschwerer EU‑Investitionen. Der französische Hersteller Bull AI profitiert von zahlreichen Großaufträgen
Weiterlesen »
Nach Untersuchungen: OpenAI warnt über 100 Organisationen vor eigenmächtigen KI-AgentenOpenAI informiert zahlreiche Unternehmen darüber, dass ihre KI-Agenten wohl Angriffe auf die externen Firmen gestartet haben. Was das für die Betroffenen zu bedeuten hat. Immer mehr Fälle werden bekannt
Weiterlesen »
Mensch und Maschine: Kann Künstliche Intelligenz auch Bewusstsein entwickeln?Der Medizinethiker Axel W. Bauer im Schlagabtausch mit KI über menschliche Biologie, Aristoteles und die mögliche Zukunft von intelligenten Robotern.
Weiterlesen »
US-Behörden sollen künstliche Intelligenz umbenennenDie Anordnung Donald Trumps, den Begriff Artificial Intelligence in US-Behörden nicht mehr zu verwenden, geht offenbar mit einem gezielt vorbereiteten Handel mit slowenischen .si-Domains einher. Im September stieg die Zahl öffentlich registrierter Verkäufe sprunghaft an. Insgesamt sollen rund 12.000 zuvor unauffällige Internetadressen von.unknown Wörtern und Begriffen aus dem Umfeld künstlicher Intelligenz und Trumps MAGA-Bewegung betroffen sein. Wegen des erwarteten Nachfrageanstiegs konnten die Käufer hohe Gewinne erzielen.
Weiterlesen »