Superintelligenz ist angekommen. Du hast es wahrscheinlich nicht bemerkt, weil sie sich als eine Art inkrementelle Entwicklung herausgestellt hat.
Glaubst du mir nicht? Mach den Test. Unterhalte dich eine Stunde lang mit Fable 5, dann unterhalte dich mit deinen zehn klügsten Freunden. Wer ist klüger? Keine Sorge, sie werden nicht beleidigt sein.
Uns wurde gesagt, wir sollten etwas Größeres erwarten. Sobald Maschinen eine bestimmte Grenze überschreiten, würde der IQ des Systems auf Höhen steigen, denen wir nicht mehr folgen könnten, und wir würden den Planeten mit etwas teilen, das Warp-Antriebe entwirft und Gedanken denkt, die uns so weit überlegen sind, wie meine Gedanken denen meines Hundes überlegen sind.
Was wir bekommen haben, ist ein Werkzeug, das hervorragenden Code schreibt, Menschen bei einer erstaunlichen Bandbreite von Aufgaben übertrifft und die Wirtschaft eindeutig umgestalten wird. Es ist auch, irgendwie, inkrementell. Kein Start. Keine Explosion. Das ist der seltsame Teil.
Ich glaube, wir haben Intelligenz überschätzt oder falsch verstanden, was sie ist.
So würde ich sie definieren: Wir halten eine dünne Streuung von Fakten über die Welt, und Intelligenz oder Vernunft ist das, was die Lücken zwischen ihnen füllt. Sie extrapoliert zwischen Dingen, die wir bereits wissen, und LLMs sind darin unglaublich gut. Indem sie unsere Worte studiert haben, haben sie die Struktur unserer Gedanken gelernt. Wir werden sie bald in unbegrenzter Menge haben, mit 200 IQ, für fast nichts.
Wo die Lücken zwischen den Fakten sich gut verhalten, ist das fast gottähnlich. Immobilienrecht ist nicht schwer. Wir haben es erfunden, es ist in sich schlüssig, und ein Modell, das jedes Gesetz und jedes Urteil kennt, sollte jeden Anwalt kostenlos schlagen. Programmieren, Mathe und die meiste Verwaltungsarbeit sind ähnlich harmlos. Was sie einfach macht, ist, dass sie relativ glatte Lösungsräume haben und nachvollziehbar überprüfbar sind.
Das meiste, was wichtig ist, verhält sich nicht so. Das Universum besteht größtenteils aus dem emergenten Verhalten komplexer Systeme. Rühre Sahne in Kaffee. Sieh zu, wie ein Sturm aus nichts als atmosphärischen Temperaturunterschieden und Wasserdampf entsteht. Die lokalen Regeln sind einfach, und der Tornado ist es nicht. In solchen Systemen liefert keine noch so große Vernunft die Antwort, weil es keine Abkürzung gibt, die sich in den Lücken versteckt. Du musst das Ding laufen lassen. Und das Laufen lassen hat seine eigene Grenze, da sich kleine Fehler aufschaukeln, weshalb kein Supercomputer dir jemals eine saubere Zwei-Wochen-Vorhersage liefern wird. Das kleinste Objekt, das das Universum perfekt simulieren kann, ist das Universum selbst. Menschliche Systeme sind ähnlich komplex. Wir können nicht einmal unser eigenes Verhalten zuverlässig vorhersagen, geschweige denn die emergenten Eigenschaften großer Menschengruppen, die im Laufe der Zeit handeln.
Das, vermute ich, ist der Grund, warum die Explosion nie kam. Die Startgeschichte nahm an, dass die Grenze das Denken sei. Das ist sie nicht. Die Grenze ist der Kontakt mit der Realität. Ein klügerer Denker füllt die Lücken zwischen bekannten Fakten in einfachen Bereichen schneller und besser, aber er produziert keine neuen Fakten.
Eine KI wird dir ein wirklich cleveres Design für eine Turbinenschaufel eines Düsentriebwerks liefern. Es könnte mit weitaus höherer Wahrscheinlichkeit funktionieren als alles, was deine Ingenieure entwickelt haben. Es wird trotzdem wahrscheinlich scheitern, denn das ist die Basisrate an der Grenze dessen, was irgendjemand weiß. Der einzige Weg, es herauszufinden, ist, die Schaufel zu bauen und zu versuchen, sie zu zerbrechen.
Das ist die wirkliche Grenze des Lernens, und es ist ihr egal, wie klug du bist. Ideen zu haben war nie der schwierige Teil. Der schwierige Teil ist, wie schnell die Realität darauf antwortet.
Nichts davon sollte dir Sorgen machen. Alles, was ein Mensch am Schreibtisch durch Nachdenken herausfinden könnte, wird ein Computer jetzt kostenlos herausfinden. Das ist eine Menge, und diese Werkzeuge werden unseren Lebensstandard enorm steigern. Aber die meisten Probleme lassen sich nicht am Schreibtisch durch Nachdenken lösen. Die bleiben daran gebunden, wie schnell wir das Ding bauen und sehen können, ob es hält, und diese Uhr tickt kaum.
Um klar zu sein: Ich bin sehr optimistisch! 200 IQ-Denken auf Abruf wird ein Segen sein, genau wie mechanisierte Stärke es war. Wenn die Arbeit des Geistes genauso wertvoll ist wie die Arbeit der Muskeln, könnten die Veränderungen in der Größenordnung der industriellen Revolution liegen. Meine Enkel werden sich über meine Armut wundern, so wie ich mich über die meiner Urgroßeltern wundere. Aber wir werden keine seltsame „Start"-Phase mit Warp-Antrieben und Gedanken erleben, die wir so verstehen würden, wie mein Hund meine versteht. Die Zukunft ist hell. Und verständlich.
