KI kann immer mehr. Optimisten versprechen ein digitales Paradies, namhafte Experten warnen vor existenziellen Gefahren. Was, wenn wir die Kontrolle verlieren? (Teil 1)
▶ Lassen Sie uns zuerst kurz über das Thema der Zukunft sprechen. Ray Kurzweil, technischer Leiter bei Google, warnt in seinem Buch "The Singularity is Near", dass Menschen zwei grundlegende Fehler begehen: Zum einen haben wir eine lineare Vorstellung von der Entwicklung der Zukunft, zum anderen sehen wir nur eine Veränderung, ohne zu berücksichtigen, dass diese Auswirkung auf viele andere Aspekte hat.
Auch Systeme der generativen KI haben Ende 2022 mit der Veröffentlichung von ChatGPT zu einem überraschenden Qualitätssprung geführt. Diese Systeme werden erhebliche Auswirkungen in vielen Bereichen haben, und die Folgen sind noch nicht genau abschätzbar. Sollte wie von Ray Kurzweil erwartet, bald eine Singularität erreicht werden, könnte es zu einer Intelligenzexplosion mit vielleicht exponentiell wachsenden Verbesserungen kommen.
Seit einigen Jahren gibt es jetzt Systeme wie z.B. deepl, die Übersetzungen in sehr guter Qualität erzeugen. Bei Problemstellungen mit nicht absehbarem Aufwand für Lösungen in guter Qualität sind oft zahlreiche Experimente erforderlich. Unterzeichnet haben es u. a. Demis Hassabis , Sam Altman und Bill Gates. Wie war das Echo und die Reaktionen auf diese Aufforderung? Vor wenigen Tagen hat der israelische Historiker Yuval Harari in einemKünstliche Intelligenz wird unser Leben auf diesem Planeten radikal verändern. Wir müssen uns der Gewaltigkeit dieser Erfindung klar werden. Wenn wir als Spezies nicht aufpassen, könnte es in einem Desaster enden. Es ist, als wären Aliens aus dem Orbit gekommen.
Die optimistische Darstellung von Ray Kurzweil teile ich nicht. Falls die KI-Entwicklung weiterhin enorme Fortschritte bringt und keine gravierenden negativen Folgen eintreten, werden die positiven Effekte vermutlich zunächst nur wenige betreffen, die enorm davon profitieren werden.
Solchen Argumenten muss allerdings widersprochen werden. In der KI gibt es eine große Vielfalt an Methoden, die miteinander kombiniert werden können, und es geht dabei nicht immer nur um Wahrscheinlichkeiten. Ein zentrales Anliegen der KI ist das automatische Lösen von Problemen, wobei zum Zeitpunkt einer Programmierung völlig unklar ist, welche Problemstellungen vorkommen werden und welche Lösungswege möglich sind, die die Systeme selbst finden müssen.
Viele Autoren, z. B. Suleymann, bleiben aber vage in ihren Aussagen über mögliche Folgen, was insbesondere daran liegt, dass kaum abschätzbar ist, wie die Auswirkungen sein werden. Aspekte wie Bewusstsein, Gefühle und Willen von Maschinen sind hoch umstritten. Es gibt aber keine bekannten Grenzen für solche Aspekte. Es ist auch kein prinzipielles Problem, Systeme zu realisieren, die so etwas wie Bewusstsein oder Gefühle simulieren. Die Frage ist nur, in welcher Qualität ist dies möglich, d.h. wie wirksam können solche Aspekte realisiert werden.
Manche sagen, wir sollten die Maschinen kontrollieren: Firewalls bauen, staatliche Vorschriften erlassen, sie in eine Kiste sperren oder die Energieversorgung der Maschinen einschränken. Das sind alles gut gemeinte, wenn auch energische Bemühungen, aber jeder, der sich mit Technik auskennt, weiß, dass der schlauste Hacker im Raum immer einen Weg durch jede dieser Barrieren finden wird. Dieser schlauste Hacker wird bald eine Maschine sein.Ja, damit ist zu rechnen.
Der Versuch, einer Ausgangs-KI Werte mitzugeben, die nach vielen Zyklen einer Intelligenzexplosion immer noch gelten, ist vielleicht damit vergleichbar, den eigenen Kindern Werte mit dem Ziel zu vermitteln, dass die Nachkommen in 10 oder 20 Generationen diese auch noch haben. Die Aussichten, so etwas zu erreichen, dürften äußerst gering sein.
Stuart Russell ist übrigens nicht mehr so optimistisch, dass der Mensch die Kontrolle über superintelligente Maschinen behält, und er rechnet jetzt auch sehr viel früher mit dem Entstehen einer Superintelligenz als in seinem Buch dargestellt.Die von der EU beschlossene KI-Regulierung AI Act ist eine wichtige Maßnahme, um gewisse Risiken durch Fortschritte in der KI zu reduzieren.
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
FC 25: Evolutions-Fiasko - Fehler behoben, Fehler geschaffenBei den Evolutions kehrt in EA SPORTS FC 25 einfach keine Ruhe ein: Der Entwickler behob zwar einen Fehler, erschuf aber auch einen neuen.
Weiterlesen »
Nvidia setzt auf Indonesien: KI-Entwicklung soll vorangetrieben werden - Südostasien wird zum neuen SchwerpunktSANTA CLARA, Kalifornien (IT-Times) - Der CEO des US-Grafikkarten-Herstellers Nvidia ist auf Marketing- und Promotion-Tour in Asien und macht nach Japan mit gutem Grund auch in Indonesien halt. Jensen
Weiterlesen »
Hochtaunuskreis: Wegen Verdachts auf Fehler: Ausländerbehörde wird untersuchtFrankfurt/Main - Nach dem Verdacht auf Unregelmäßigkeiten bei der Ausländerbehörde in Bad Homburg wurden Untersuchungen eingeleitet. «Es ist zutreffend,
Weiterlesen »
Wegen Verdachts auf Fehler: Ausländerbehörde wird untersuchtFRANKFURT (dpa-AFX) - Nach dem Verdacht auf Unregelmäßigkeiten bei der Ausländerbehörde in Bad Homburg wurden Untersuchungen eingeleitet. 'Es ist zutreffend, dass dem Landrat Anhaltspunkte dafür vorliegen
Weiterlesen »
Es ist nicht die Superintelligenz, worüber wir uns bei KI tatsächlich Sorgen machen solltenAngst vor Super-KIs ist eine - inzwischen sogar durch den frisch gebackenen Physik-Nobelpreisträger - gern erzählte Dystopie. Aber es ist die falsche Geschichte, wenn es um die Sorgen geht, die wir uns
Weiterlesen »
KI-Experte Stuart Russell warnt vor SuperintelligenzProf. Stuart Russell spricht über die Zukunft der Künstliche Intelligenz und die Notwendigkeit, Kontrolle über diese Systeme zu behalten.
Weiterlesen »