Zuckerberg führt sich auf, wie der Schurke in einer Sci-fi-Dystopie

Bei Meta läuft das Geschäft. Es gab wieder Rekordgewinne, wenngleich der Geldregen wegen der Steuern nicht so üppig wie in früheren Jahren auf die Aktionäre niederprasselte. Doch obwohl die IRS die hohle Hand macht, kann es sich Mark Zuckerberg leisten, gewaltige Summen in die Rekrutierung von neuem Personal zu stecken.

«Wired» berichtete im Juli darüber: Die Angebote an Talente im Bereich der künstlichen Intelligenz beliefen sich auf Beträge von dreihundert Millionen über vier Jahre, mit einer Vergütung von über hundert Millionen im ersten Jahr:

Meta unterbreitete Mitarbeitern von OpenAI mindestens zehn unglaublich hohe Angebote, wie gut informierte Kreisen verlauten liessen. Ein hochrangiger Forscher wurde für die Position des Chefwissenschaftlers angeworben, lehnte das Angebot jedoch ab. Das Vergütungspaket umfasst zwar Aktienanteile, diese werden jedoch bereits im ersten Jahr sofort ausgezahlt.

Das ist ein klarer Ausdruck von Metas KI-Ambitionen. Ebenso die Abteilung mit dem Namen Meta Superintelligence Labs. Die Investitionen belaufen sich auf 14,3 Milliarden, fand die «New York Times» heraus. Sam Altman ist (nicht überraschend) erzürnt darüber, dass man ihm seine Top-Leute abwirbt. Er dürfte nicht der einzige im Silicon Valley sein, der einen Groll auf Meta hegt. Auch Apple hatte einen Abgang zu verzeichnen: Ruoming Pang, eine der KI-Koryphäen des iPhone-Konzerns, wurde mit zweihundert Millionen US-Dollar geködert.

Mark Zuckerberg will den Fortschritt radikal beschleunigen

Und wir fragen uns: Was plant Meta genau?

Nun, Mark brachte seine Pläne höchstselbst zu Papier (oder zu Tastatur). Er schrieb:

Ich bin äusserst optimistisch, dass Superintelligenz der Menschheit helfen wird, unser Fortschrittstempo zu beschleunigen. Vielleicht noch wichtiger ist, dass Superintelligenz das Potenzial hat, eine neue Ära der persönlichen Selbstbestimmung einzuläuten, in der die Menschen mehr Handlungsspielraum besitzen, um die Welt in die von ihnen gewünschte Richtung zu verbessern.

Eine Superintelligenz ist ein System, das dem menschlichen Intellekt in wesentlichen Bereichen oder generell überlegen ist. Es ist nicht erwiesen, dass eine solche Technologie nach dem jetzigen Stand der Dinge überhaupt realisierbar ist. Heutige Sprachmodelle funktionieren in den Grenzen ihrer Trainingsdaten. Für den nächsten «Evolutionssprung» müssten die irgendwie überwunden werden – genauso, wie ein menschliches Genie in der Lage ist, die Grenzen des bisherigen Wissens und Könnens auszudehnen. Wird das passieren? Vielleicht, vielleicht nicht. Und falls es passiert, könnte das bis 2045 der Fall sein, wie Ray Kurzweil prognostiziert. Genauso gut ist möglich, dass es so lange dauert, dass Mark Zuckerberg es nicht mehr erlebt.

Wie auch immer: Dass der Meta-Chef so tut, als ob er diese Errungenschaft mit seinen Milliarden kaufen könnte, ist ein Zeichen von Hybris.

Jedem seine persönliche Superintelligenz!

Jedenfalls konkretisiert er seine Pläne wie folgt:

Die Vision von Meta ist es, jedem Menschen persönliche Superintelligenz zugänglich zu machen. Wir glauben daran, diese Kraft in die Hände der Menschen zu legen, damit sie sie für das einsetzen können, was ihnen in ihrem Leben wichtig ist.

Mir liegt ein «Heilige Scheisse!» auf der Zunge. Naiver Fortschrittsglaube in Ehren, aber das ist selbst für zuckerbergsche Verhältnisse schmerzhaft schönfärberisch. Meta und Mark Zuckerberg haben immer und immer wieder bewiesen, dass sie Eigeninteressen vor die gesellschaftliche Verantwortung stellen. Belege dafür gibt es viele – ich belasse es mit einem Hinweis auf den fahrlässigen Umgang mit dem KI-Matsch (AI Slop), den diese Plattformen 2025 an den Tag gelegt haben (siehe hier, hier, hier, hier und hier).

Überlegen wir uns mal, nur aus Spass, was passieren würde, wenn es Meta gelänge, eine solche Superintelligenz zu entwickeln. Und tun wir das unter der Prämisse, dass kein anderes Unternehmen dazu in der Lage wäre:

• Wir hätten es mit einer extremen Machtkonzentration zu tun. Die Regierungen dieser Welt hätten Meta wenig bis nichts entgegenzusetzen.
• Meta würde die Kommunikationsflüsse kontrollieren. Positiv gesehen wäre das Moderationsproblem bei Facebook, Instagram und allen anderen sozialen Medien gelöst. Negativ daran wäre, dass niemand mehr etwas verlautbaren könnte, was Meta nicht passt.
• Wenn Mark Zuckerberg heute der Konkurrenz die Leute abspenstig macht, würde er bei dieser Ausgangslage kaum zögern, sie komplett plattzumachen und sich bei den Plattformen, dem Werbegeschäft und in der Cloud zum Alleinherrscher aufschwingen.

Das klingt nach einem dystopischen Sci-fi-Szenario, das ich in Romanform gern lesen, aber nicht selbst erleben möchte.

Es wird nicht passieren. Bereiten wir uns trotzdem vor

Aber wie angedeutet: Realistisch ist dieser Plottwist nicht. Es ist meine Überzeugung, dass sich eine menschliche Existenz nicht zu hundert Prozent simulieren lässt. Deswegen ist es von vornherein ausgeschlossen, in der Simulation über das Vorbild hinauszuwachsen. Es ist nicht ausgeschlossen, dass mit weiterem exponentiellem Fortschritt eine Art Universalmodell entsteht, in dem alles Wissen und jede erdenkliche Fähigkeit steckt. Das würde mit hoher Wahrscheinlichkeit in der Lage sein, selbst zu handeln, und zwar in einer Geschwindigkeit, bei der die Menschheit Mühe hätte, mitzuhalten.

Welche Befugnisse würden wir ihm einräumen? Bei Mark Zuckerberg halte es für ausgeschlossen, dass er sein Versprechen ernst meint und er jeden Menschen maximal ermächtigen würde Er würde vielleicht eine Art Matrix etablieren, aber die wahre Macht für sich monopolisieren. Das ist Grund genug, diese Entscheidung nicht einem einzelnen Konzern zu überlassen – das wäre ein Job für die vereinigte Menschheit. Wenn es an dieser Stelle noch ein weiteres Argument bräuchte, dann wäre das ein Hinweis auf die politische «Neuorientierung» des Meta-Chefs (Mark Zuckerberg has gone full Maga, Inside Mark Zuckerberg’s Trump pivot).

Auch ohne diesen Hinweis ist es klar, dass diese Tech-Konzerne eingefangen werden müssen – nicht nur Meta, aber vor allem. Ihre Macht muss beschränkt werden. Das wirkungsvollste Mittel wäre, sie in kleinere, kontrollierbare Einheiten zu zerschlagen. Und es braucht eine systematische und politisch gewollte Förderung offener, transparenter und gemeinnütziger Technologien, Schnittstellen, Algorithmen und Organisationen. Dann wird alles gut!

Beitragsbild: Kaum zu glauben, was man durch Mark Zuckerbergs Brille sieht (Alessia Lorenzi, Pexels-Lizenz).