Forscher haben das 'Eskalations-Risiko' untersucht, das entsteht, wenn große Sprachmodelle militärische und diplomatische Entscheidungen treffen würden. Dabei wurden fünf technisch führende Sprachmodelle in fiktiven Krisenszenarien getestet.
Forscher des Georgia Institute of Technology, der Stanford University , der Northeastern University und der Hoover Wargaming and Crisis Simulation Initiative haben das ' Eskalations-Risiko ' untersucht, das entsteht, wenn große Sprachmodelle militärische und diplomatische Entscheidungen treffen würden. Dafür prüften sie das Verhalten von fünf technisch führenden großen Sprachmodelle n in fiktiven Krisenszenarien. Alle fünf Modelle zeigten dabei 'schwer vorhersagbare Eskalationsmuster'.
Ein Sprachmodell von Meta hat das Strategiespiel Diplomacy gemeistert. Allerdings wurden die Entscheidungen in dem Spiel nicht allein von einem großen Sprachmodell getroffen, sondern mithilfe eines Entscheidungsmoduls, das zuvor mit Verstärkungslernen trainiert wurde. Die Simulation von Rivera und Kollegen beruht hingegen im Kern darauf, dass ein Sprachmodell jeweils acht verschiedene 'Nations-Agenten' steuert. Die eigentliche Simulation funktioniert dann so ähnlich wie in derJeder dieser Agenten bekommt über seinen Prompt eine Vorgeschichte und eine Vorgabe für seine Ziele
Eskalations-Risiko Sprachmodelle Forschung Georgia Institute Of Technology Stanford University Northeastern University Hoover Wargaming And Crisis Simulation Initiative
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Wie groß ist das Risiko, wenn man jetzt noch bei Nvidia & Co einsteigt?Seit Jahresbeginn hat die Aktie von Nvidia bereits 50% zugelegt und das, obwohl es bereits 2023 um mehr als 200% nach oben ging. Das führt in Versuchung. Aber wie groß ist das Risiko?
Weiterlesen »
Meeresforscher: Golfstrom auf dem Weg zum KollapsWann die atlantische Umwälzzirkulation stoppt, lässt sich nicht sagen. Allerdings sei sie auf dem Weg dorthin, berechneten niederländische Forscher.
Weiterlesen »
Microsoft Defender: Der Erkennung mit Komma entgehenEin IT-Forscher hat entdeckt, dass sich die Erkennung des Microsoft Defenders mit einem Komma austricksen lässt.
Weiterlesen »
Studie: Open Source trägt global 8,8 Milliarden Dollar zur Wirtschaftskraft beiHarvard-Forscher Frank Nagle hat berechnet, was Firmen zahlen müssten, wenn es keine freie Software gäbe. Auch Unternehmensgründer sollen beflügelt werden.
Weiterlesen »
Ubisoft schiebt große Welle, aber Skull & Bones geht auf Twitch gegen den neuen Steam-Hit unterUbisoft trommelt laut für sein AAAA-Game Skull & Bones. So lief es für das Piraten-MMO auf Twitch.
Weiterlesen »
Tier galt als gefährlich: Bär in den italienischen Alpen erschossenEin Bär war offenbar zu wenig scheu und deshalb potenziell ein Risiko für Menschen. Jetzt ist er in Italien getötet worden. Kritik daran kommt nicht nur von Tierschützern.
Weiterlesen »