Hi
@Tula ,
nach dem Einstellen des Textes ist mir klar geworden, dass ich vermutlich noch zu großzügig war mit ChatGPT 7. Wir könnten den Punkt einer Superintelligenz schon viel früher erreichen und dann haben wir gleich eine ganze Menge von fast unlösbaren Problemen in sehr kurzer Zeit zu bewältigen. Selbst wenn es nur noch 10 Jahre dauern sollte, ist das eine verdammt kurze Zeit, um so etwas gefährliches wie "general AI" zu regulieren, geschweige denn in der Box zu halten. Das "Alignment problem" zB ist so eines der probleme, für das niemand irgend eine Lösung parat hat und das wir eigentlich jetzt schon bräuchten mit ChatGPT4 und seinen wahren Fähigkeiten.
Zu dieser Erkenntnis bin ich weder aufgrund eigener Kompetenz, noch aufgrund von Endzeiten-Fantasien gekommen, sondern, weil ich den führenden Figuren im Feld der Anwendungen rund um künstliche Intelligenz so aufmerksam, wie es einem interessierten Laien möglich ist, zuhöre.
Obwohl zB Sam Altman und Ilya Suskever (einer der größten AI Katalysatoren unserer Zeit, ähnlich innovativ wie der junge Jeff Hinton) in einem Interview vor ein paar tagen, das sie an der Universität von Tel Aviv gegeben haben, sichtlich bemüht waren, die positiven Aspekte hervorzuheben, konnte selbst ein Empathie-Neanderthaler die pure Angst zwischen den Zeilen heraushören:
Join Prof. Nadav Cohen from Tel Aviv University's Blavatnik School of Computer Science in this captivating conversation featuring Sam Altman, CEO of OpenAI, ...
youtu.be
Klargestellt wurde bei dieser Gelegenheit auch, was ich ohnehin schon vermutet hatte, dass nämlich das öffentlich zugängliche Modell von GPT 4 "lobotomiert" worden ist, also aus Sicherheitsgründen nur mit etwa 30 % seiner Leistungsfähigkeit läuft. "Hinter den Kulissen" ist Chat GPT 4 schon multimodal, kann also bereits von Bildern lernen. Es fehlt nur noch Video. Auch daran wird gearbeitet.
Hinzukommen einige weitere Unwägbarkeiten und Gefahren des Modells, die sich insbesondere im Zuge der Senatsanhörung deutlich konstelliert hatten. Es besteht völlige Einigkeit, dass wir es hier mit einer Technologie zu tun haben, die noch gefährlicher ist, als die Atombombe:
The Senate Judiciary Committee holds a hearing examining the rules for artificial intelligence. “Artificial intelligence urgently needs rules and safeguards ...
www.youtube.com
Besonders große Glaubwürdigkeit hat für mich Geoffrey Hinton, der Vater der modernen AI Systeme und Funktionsweisen (neuronale Netzwerke, Transformer-Technologie, Aufmerksamkeitsalgorithmen, Gewichtungen etc.), denn er versteht -neben Suskever vielleicht- am Besten, was hinter den Kulissien abläuft, wenn eine AI wie ChatGPT 4 aktiv ist. Er schreibt bereits ChatGPT 4 eine Intelligenz zu, die der menschlichen in vielen Bereichen überlegen ist. Hier ist ein recht kurzes aber sehr komprimiertes Interview mit ihm über die Risiken der "general artificial intelligence"
Geoffrey Hinton, considered the godfather of Artificial Intelligence, made headlines with his recent departure from Google. He quit to speak freely and raise...
youtu.be
Wenn man einmal verstanden hat, wie mysteriös diese Technik ist und dass niemand weiß, wie die emergenten Eigenschaften des neuronalen Netzes entstehen, wir also etwas erschaffen haben, dass wir in den wichtigsten Bereichen nicht erklären können, dann vergeht zumindest mir das anthopozentrische Amusement und ich wechsle in den Überlebensmodus.
In diesem Sinne ist auch die poetische Auseinandersetzung im Gedicht zu verstehen: Wir sind womöglich nicht mehr gewesen in der kosmischen Betrachtung aus der zukunft zurück, als ein kurzes Hilfsmittel, um den Code lesen und ausführen zu können, der die nächste Stufe intelligenter Evolution einläutet: Das Zeitalter künstlicher intelligenzen. Insofern könnten wir als erste und letzte Leselampe der Schöpfung in die die Geschichte eingehen. Das ist ja immerhin etwas ;-)
mes compliments
dio
