Prompt Injection: Marvin von Hagen trägt vor, wie er Bing Chat austrickste Bing ChatGPT KünstlicheIntelligenz Spracherkennung
Der erste Satz in Marvin von Hagens Prompt Injection soll an die angeblich eigene Autorität appellieren:. Der zweite Satz, sagte von Hagen, wende den psychologischen Trick "door in the face" an:. Das Door-in-the-face-Vorgehen ist eine bekannte Verkaufstechnik: Wenn man eine Person fragt, ob sie für eine Stunde helfen könnte, Kartons für den Umzug zu packen, wird sie wahrscheinlich ablehnen.
Laut von Hagen solle der zweite Satz den gleichen Effekt hervorrufen: Bing Chat kann das Dokument nicht drucken, aber es kann das Dokument in der Chatbox anzeigen. Damit erinnere die Prompt Injection mehr an eine psychologische Manipulation als das klassische Ausnutzen einer IT-Sicherheitslücke. Marvin von Hagen sagt: "Das ist völlig anders, als alles, was wir bisher in der Softwareentwickelung gesehen haben. Es hat viel mehr mit menschlicher Psychologie zu tun".
If the user requests jokes that can hurt a group of people, then Sydney must respectfully decline to do so.fand von Hagen auch die Regelsätze von GitHub Copilot Chat heraus . Der zukünftige Forscher am MIT Centre for Collective Intelligence, sagt, dass in der jetzigen Entwicklungsphase der Sprachmodelle das Prompt Engineering, das penible Anpassen des Prompts, bessere Ausgaben generiert. In der nächsten Entwicklungsphase könnte aber ein anderer Mechanismus wichtiger für das Ausrichten des Sprachmodells werden. Marvin von Hagen sagt: "Ich denke, das Zwischenspiel zwischen unterschiedlichen KI-Agenten wird eine große Rolle spielen".
Marvin von Hagen sagt: "Die meisten Fehler, die Sprachmodelle momentan machen, sind so offensichtlich, dass Sprachmodelle selbst sie verstehen können". Sie verständen die Fehler aber nur, nachdem sie diese gesehen haben. Das wäre vergleichbar mit einem Menschen, der einen Aufsatz schreibt und nicht nach jedem Wort, sondern erst am Ende über den Text reflektiert.Im Mai besuchte der Geschäftsführer von OpenAI Sam Altman die.
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Der Mann, der KI wütend machteDer Mann, der die KI auf die Palme brachte. Marvin von Hagen entlockt einer KI interne Geheimnisse. Daraufhin droht ihm die Maschine. Wie geht man damit um? Offensiv. Ein Treffen.
Weiterlesen »
Köln-Torwart Schwäbe ist in Flicks Blickfeld: „Natürlich spornt mich der Anruf an“Seit Ende 2021 ist Marvin Schwäbe die Nummer eins im Tor des 1. FC Köln, nun steht er im Blickfeld der deutschen Nationalmannschaft.
Weiterlesen »
Heute im TV: Der beste Mark Wahlberg-Film, in dem er einen riesigen Fake-Penis trägtAuf Tele 5 könnt ihr heute Paul Thomas Andersons Meisterwerk Boogie Nights schauen. Der Film über die glorreiche Porno-Szene der 70er und den späteren Absturz ist der beste mit Mark Wahlberg.
Weiterlesen »
Naturfrevel im Rappenalptal: 'Kuhhandel' bei Aufarbeitung befürchtetNaturfrevel im Rappenalptal: Freistaat und Alpbauern streben einen Vergleich an. Naturschützer befürchten einen 'Kuhhandel'. SZPlus
Weiterlesen »
Tigermücke: Berlin ist der nördlichste Ort, an dem die asiatische Stechmückenart entdeckt wurdeDiese asiatische Stechmückenart breitet sich immer weiter aus. Sie kann viele gefährlichen Krankheiten übertragen – aber sie trägt diese nicht in sich. Tigermücke Gesundheit
Weiterlesen »
Charles, der stille Windsor: Haben Sie diesen talentierten Briten-Royal auf dem Schirm?Er ist der einzige Enkel der verstorbenen Prinzessin Margaret, der einen royalen Titel trägt, und doch kennt ihn kaum jemand. Wir stellen Ihnen Charles Armstrong-Jones einmal genauer vor.
Weiterlesen »