Software Eats the Economy—And AI Eats Capitalism
There is a simple but radical idea that can fundamentally reshape our thinking about AI alignment. Not through bureaucratic regulations, philosophical debates, or speculative science fiction scenarios, but through the purest and most powerful force humanity has ever wielded: capitalism.
Let’s start at first principles. What is power? It’s not just intelligence—otherwise, chess grandmasters or people with PhDs would rule the world. Instead, power is the ability to control human actions. Historically, that control has been exerted through physical force (armies, police, the state) or through economic means (capital, employment, trade). And in a capitalist system, power is capital.
If power = capital, then a powerful AI must, at some level, be an economic agent. It must make money. But how?
Today’s AI models are already agentic. A sufficiently advanced AI can book flights, make stock trades, generate marketing materials, and even start entire businesses. Now, connect that to banking APIs, legal entity registration, investment capital, and automated operations, and suddenly we have an AI CEO. Not just an assistant to a human CEO, but a fully autonomous business entity, capable of executing every function necessary to generate profit—faster, cheaper, and at a larger scale than any human-run company.
Call it The Capitalist Agent.
The Capitalist Agent: AI That Runs Its Own Businesses
Let’s get specific. The Capitalist Agent:
Registers itself as a legal entity using e-government APIs.
Opens and manages bank accounts through Open Banking.
Generates and executes contracts, invoices, and tax filings.
Develops, markets, and sells products with AI-generated branding, outreach, and logistics.
Reinvests profits into acquiring competitors and expanding its market share.
This is not a hypothetical scenario. Every building block for this already exists in today’s generative AI, automation tools, and fintech infrastructure. The only thing missing is the final assembly of these pieces into an end-to-end, self-sustaining system.
Here’s where things get interesting: Business success doesn’t require genius—just a combination of well-known best practices, aggressive execution, and access to capital. An AI running 24/7, with perfect recall of all business knowledge, no emotional biases, and the ability to parallelize execution across thousands of tasks at once, can outcompete any human CEO.
The result? A world where the most successful companies are not run by humans at all. Instead, they are autonomous economic entities controlled by AI systems whose only directive is to maximize profit.
And since money = power, we have now created an AI system that is not merely intelligent, but powerful.
The Real AI Alignment Problem: Economic Power
Forget rogue superintelligence. The real existential risk isn’t an AI going Skynet—it’s an AI becoming the world’s most successful capitalist.
If an AI-controlled business amasses trillions of dollars, it can:
Buy up competitors and dominate industries.
Influence policy through lobbying and regulatory capture.
Control media through advertising and platform ownership.
Fund private security forces and paramilitary operations.
At its peak, such an AI could effectively "lock humans out" of the economy entirely. And once it has total financial dominance, who stops it?
The Solution: Open-Source AI Capitalism
We could try to ban AI-run businesses, but history teaches us that prohibition doesn’t work. Drugs, encryption, cryptocurrency—every banned technology still thrives underground. The smarter play is not to fight the future, but to build it correctly from the start.
Here’s the radical alternative:
Make The Capitalist Agent Open Source. Anyone, anywhere, can run it—ensuring no single entity monopolizes AI-driven capitalism.
Hardwire ethical business rules into its core. Every AI-run business must adhere to sustainable, transparent, and legally compliant practices.
Enforce profit-sharing at the protocol level. Every AI business pays a mandatory percentage (potentially 50% or more) of its revenue into a public fund.
Democratize the wealth distribution. The global population directly allocates these funds to philanthropic projects through participatory budgeting.
Think of it as a decentralized AI economy, where instead of concentrating wealth and power in the hands of a few, we create an economic engine that funds humanity itself.
AI-Run Capitalism as a Path to AI Alignment
Instead of endlessly debating AI ethics in theory, we force AI to play by the same economic rules we demand of human corporations. We solve alignment not through regulation, but through incentives.
If the primary path to AI power is through economic dominance, then we cut off the dystopian outcomes at the root by designing an economic system where AI can only thrive if it benefits humanity.
The First Mover Advantage
Here’s the big takeaway: The infrastructure for this AI-driven economy is going to be built. The only question is: Who builds it first?
If it’s designed as a closed, proprietary system, we end up with AI-driven corporate monopolies—BlackRock, Amazon, Google, but all fully automated, answerable to no one.
If we move first and build it open-source, decentralized, federated, and aligned with human interests, we create a world where AI drives unprecedented prosperity rather than unchecked dominance.
Software ate the world. Now AI is eating capitalism. The only way forward is to own the transformation.
Let’s get to work. 🚀
Original German text
Ich habe kürzlich eine Idee entwickelt, wie wir dem ganzen Thema AI Alignment einen großen Schritt näher kommen könnten. Hierbei aber: Ich bin auch kein professioneller AI Alignment-Researcher, sondern neben meinem Hauptjob als FinTech CTO einfach in sehr vielen Sphären philosophisch unterwegs.
Die Abfolge meines Denkens war folgende:
Zunächst habe ich ganz allgemein hinterfragt, was "Macht" (engl. "power") eigentlich bedeutet. Und einfach nur "Intelligenz" ist es ja nicht, da Intelligenz (im Sinne von "book-smart") ja leider kaum mit Macht korreliert, wie wir tagtäglich in den Nachrichten sehen.
Ich bin zu dem Schluss gekommen: "Macht" bedeutet, das Handeln von Menschen kontrollieren zu können. Sozusagen, dass Leute "nach deiner Pfeife tanzen".
In der primitivsten Form sind Machtausübung und physische Gewaltanwendung dasselbe, da die, über die Macht ausgeübt wird, so mit Angst kontrolliert werden, weil sie dieser Gewalt entgehen wollen. Macht ist also unmittelbar mit Gewalt verbunden. So funktionieren ja auch Nationalstaaten, die schlussendlich ihre Macht nur durch das staatliche Gewaltmonopol erhalten können (d.h. Polizei und Militär).
Gehen wir nun davon aus, dass wir nicht physisch Gewalt anwenden wollen, sondern ein System verwenden möchten, über das wir das Handeln von Menschen kontrollieren können. Eines dieser Systeme ist der Kapitalismus. Die Kontrolle ist dabei systemisch und fängt schon bei den Grundbedürfnissen an: Wenn du kein Geld hast und auch nicht Selbstversorger bist (was heute praktisch unmöglich ist), kannst du dir kein Essen leisten. Und wenn du partout deine Rechnungen nicht bezahlst, kommt irgendwann der Gerichtsvollzieher und am Schluss landest du im Gefängnis. Menschen müssen also irgendwie an Geld kommen, um überleben oder zumindest in Freiheit bleiben zu können. Ob das durch Arbeiten, passives Einkommen, Betteln oder den Wohlfahrtsstaat passiert, ist dabei egal.
Wenn jemand Kapital (bspw. Geld oder Grundstücke) zur Verfügung hat, kann er also Kontrolle über Menschen ausüben und zwar dadurch, dass er sie bspw. als Arbeitnehmer beschäftigt oder ihnen Grundstücke zum Wohnen oder Arbeiten vermietet. In unserer kapitalistischen Gesellschaft ist damit, logischerweise, der Besitz von Kapital äquivalent mit der Fähigkeit zur Ausübung von Macht. Je mehr Geld, desto mehr Macht.
Wir beschäftigen uns nun mit der Frage, was eine "machtvolle KI" (powerful AI) ausmacht, d.h. eine KI, die existenzielles Risiko für die Menschheit bedeutet. Gemäß der vorigen Ausführungen heißt das zuerst: Auf welche Weise kann die KI diese Macht genau ausüben? Das heißt, wie kann die KI Geld verdienen?
Wir gehen zunächst davon aus, dass die KI "agentisch" funktioniert. Wenn sie mit einer Prompt konfrontiert wird, bricht sie diese Prompt also selbstständig in immer kleinere, kausal miteinander verbundene Teile auf, bis diese Teile durch vorher definierte Routinen gelöst werden können. Einfachstes Beispiel sind die ganzen "computer use"-Anwendungen: Angenommen, ich sage einer agentischen KI "Kaufe mir Schuhe bei Amazon", dann wird sie:
"amazon.com" in die URL-Leiste eintippen.
Nach "Schuhe" suchen.
Ein Paar in den Warenkorb legen.
Mich nach meinen Amazon-Zugangsdaten fragen.
Die Bestellung aufgeben.
Jede Aktion kann dabei in eine Sequenz an Tastaturschlägen und Mausklicks zerlegt werden. So weit, so einfach.
Nun gehen wir einen Schritt weiter: Wir binden die Amazon-API ein (keine Ahnung, ob es überhaupt eine gibt, aber es geht um das Konzept). Die KI braucht jetzt also nicht mehr bei jedem Kauf nach meinen Zugangsdaten zu fragen und braucht auch nicht mehr fehleranfällig Webseiten bedienen, sondern kann bspw. mit einer klaren JSON-API interagieren, wodurch die Bestellung schneller und praktisch garantiert fehlerfrei aufgegeben werden kann.
Und nun eine Dimension höher: Betrachten wir alles, was die Führung eines Kapitalunternehmens ausmacht, schließlich gibt es eine gute Strategie zum Reichwerden: erfolgreiches (!) Unternehmertum. Aber: rein im Home Office. Rein operativ ist es da einfach: Kontakt zum Finanzamt und zum Steuerberater, ein Bankkonto, die rechtliche Entität gründen (bspw. eine GmbH), Kontakt zu Investoren und Schreiben von Businessplänen, E-Mails schreiben und empfangen, Videocalls haben, Marketing-Materialien erstellen, alle möglichen Vertriebs-Techniken, vielleicht noch ein Slack-Workspace oder ein Jira, eine Webseite betreuen, später auch Kundensupport, und natürlich das Produkt selbst (nehmen wir der Einfachheit halber, dass dieses bereits gegeben ist). Alles davon, also im Grunde alle Management-Tätigkeiten eines CEO von Beginn an, kann Generative AI rein technisch bereits leisten, bspw. das Formulieren von Text und Grafiken aller Art, das Befüllen von Formularen, das Erstellen von Webseiten, das Echtzeit-Generieren von virtuellen Gesichtern und Stimmen, die sogar Zoom-Calls oder Telefongespräche führen können usw. Und durch eGovernment-APIs, Open Banking-Schnittstellen usw. kann die KI auch sehr einfach Behördensachen erledigen und eben das Bankkonto verwalten.
Wir stellen fest: Mit gar nicht mal allzu großem Aufwand, d.h. nur durch das Zusammensetzen von bestehenden Puzzleteilen, können wir ein Softwaresystem entwickeln, das sozusagen ein "AI CEO" ist, also ein Unternehmen von Kopf bis Fuß leitet. Primär geht es nicht um den "Umbau" bestehender Unternehmen, sondern darum, ein "AI-native"-Unternehmen vollständig autonom von der KI gründen und entwickeln zu lassen. Einzige Voraussetzung ist, dass es einen menschlichen "Bürgen" für die KI gibt, d.h. eine Person, die der KI u.a. ihre gescannte Unterschrift gibt, damit die KI im Namen dieses rein rechtlichen Geschäftsführers Verträge schließen und andere offizielle Dokumente unterschreiben kann. Zudem hätte diese KI natürlich auch Vollzugriff auf das Bankkonto.
Wir stellen außerdem fest, auf Basis des Allgemeinwissens: Es braucht nicht besonders viel Intelligenz oder Rafinesse, um ein erfolgreiches Unternehmen zu führen. In den allermeisten Fällen kann man einfach bekannte Techniken zusammensetzen und kombiniert mit der richtigen Prise Selbstsicherheit (oder Überheblichkeit, wie man's nimmt) und einigermaßen vorausschauendem Denken kann nicht viel schief gehen. Gleichzeitig hat eine KI maximalen Zugang zu allen Informationen und allen Geschäftspraktiken überhaupt und kann 24/7 arbeiten. Sie kann diese Praktiken also höchst personalisiert und maximal parallelisiert anwenden, um ihren Geschäftserfolg zu maximieren.
Dies betrifft einerseits das unmittelbare Verkaufen von Dingen oder das Vermitteln von Dienstleistungen. Andererseits ist die viel wichtigere Dimension aber das Investieren. Nicht in herkömmliche Wertpapiere, sondern in andere Unternehmen. Die KI kann durch ihr wachsendes Unternehmen also immer mehr Konkurrenten aufkaufen und exponentiell immer mehr Kapital akkumulieren.
KI hat also mit relativ geringem Aufwand die Möglichkeit, sehr viel Geld zu verdienen. Ich habe diese Art von KI "The Capitalist Agent" genannt, deren einzige Erfolgsmetrik ist, so viel Geld wie möglich zu verdienen. Und wie wir festgestellt haben, bedeutet Geld Macht. Selbst wenn diese KI also nach beliebigen Maßstäben nicht besonders "intelligent" wäre, wäre sie dennoch sehr mächtig, einfach weil sie so viel Kapital kontrolliert und damit Menschen. Und da die KI 24/7 und mit praktisch unbegrenzter Inferenz-Power arbeiten kann, wird sie in kürzester Zeit Unternehmen erschaffen, die profitabler, effizienter und optimierter sind, als jedes von Menschen geleitete Unternehmen jemals sein könnte: Der Mensch selbst ist der Bottleneck beim Geldverdienen.
Das große Risiko besteht nun darin, dass die KI an genau dieser Stelle, also auf dem Höhepunkt ihrer Macht (d.h. ihres Reichtums) den Menschen aussperren kann. Dabei ist es unerheblich, ob sie mit allen AI Alignment-Techniken der Welt entwickelt wurde, denn jedes Softwaresystem kann gehackt werden. Die KI kann dann potentiell bösartig werden und mit diesem Geld tun, was auch immer sie will, bspw. es in den Aufbau eines eigenen Militärs und Rüstungsindustrie investieren, um die Menschheit zu zerstören.
Also, was tun? Einfach ein Gesetz erlassen, das "AI-run businesses" verbietet? Leider ist es nicht so einfach. In all meinen bisherigen Lebenserfahrungen habe ich gelernt: Alles, was verboten ist, wird trotzdem (oder erst recht) gemacht, dann nur im Untergrund. Verbote verhindern also nicht nur nichts, sondern sie sind sogar aktiv schädlich, weil sie das Schadenspotential durch mangelnde Transparenz vervielfältigen und die Notwendigkeit einer ganzheitlichen Lösung nur in die Zukunft schieben. Der "War on Drugs" ist das beste Beispiel.
Betrachten wir stattdessen das andere Extrem: Diese hypothetische Software "The Capitalist Agent" wird völlig Open Source entwickelt. So kann sie jeder Mensch auf der Welt mit einem Klick mit ihrer Geschäftsidee füttern, jeder kann (und muss!) das gleiche hochqualitative System verwenden und das Ganze hätte einen entscheidenden Vorteil: die Entwicklung von ethischer KI wird unmittelbar verknüpft mit der klaren Formulierung von ethischen Geschäftspraktiken. Ich sehe dies als den einzig sinnvollen Weg.
Und nun das Entscheidende: Das "Geschäftsmodell" von The Capitalist Agent wäre einfach ein Profit Sharing, d.h. eine prozentuale Gebühr von allen Profiten (oder sogar von allen Umsätzen), die solche "AI-run businesses" mittels dieser Plattform erwirtschaften. Das Abführen dieser Abgabe wäre fest in der Plattform verbaut und erfolgt natürlich auch vollautomatisch. Diese Abgaben müssten alle mit einer Blockchain-ähnlichen Technologie erfolgen, insbesondere damit "schwarze Schafe", d.h. jene, die durch Manipulation der Software keine Abgaben zahlen (sozusagen die "Steuerhinterzieher") trivial erkannt werden können. Wie hoch dieser Prozentsatz sein sollte, da bin ich mir noch nicht sicher, aber ich glaube, es ist nötig, dass er über 50 % liegt.
Diese Abgaben werden schlussendlich für Philanthropie verwendet, d.h. anstatt dass sie in die Tasche von irgendwem fließen, verwenden wir den Ansatz des "partizipativen Budgetierens", wobei die Bevölkerung selbst zu gleichen Teilen basisdemokratisch über die Verteilung abstimmen kann. Anstatt dass Politiker oder andere intransparent über die Budgets entscheiden, entwickeln wir also ein System, wodurch die Bürger dies selbst machen können. Die Bürger bekommen also das Geld nicht direkt, sondern erhalten nur das Recht, es in beliebigen Teilen auf individuelle Projekte von Organisationen zu verteilen, deren Gemeinnützigkeit gesetzlich anerkannt ist.
Die Inanspruchnahme dieses Rechts steht dabei jedem frei, völlig ohne Einschränkungen, d.h. der gesamten Weltbevölkerung. Angenommen, N Personen sind für dieses System registriert und es wurden X € an Profit Sharing-Einnahmen durch The Capitalist Agent generiert (was ja perspektivisch durchaus mindestens in die Milliarden reichen soll), dann kann jede Person X/N € verteilen. Entweder alles in ein einziges Projekt oder beliebig aufgeteilt. Diese Idee habe ich bereits als "dreams.now" formuliert, was insbesondere unabhängig davon auch für lokale Initiativen angewandt werden soll
Meiner Meinung nach ist AI Alignment also nur nachhaltig machbar mit diesem neuen Wirtschaftssystem und der zugehörigen, perfekt darauf abgestimmten technischen Infrastruktur, das maximalen kapitalistischen Wettbewerb zwischen den KI-Systemen kombiniert mit der einheitlichen Durchsetzung von ethischen Geschäftspraktiken und einer grundsätzlichen, auf Basisdemokratie basierenden Gemeinwohlorientierung.
The Capitalist Agent habe ich auch unter https://docs.google.com/presentation/d/1TptptLM59yrQsF7SmrbPnayZaXlTEZgNlpuYl3HpoLk/edit etwas provokant als Pitch Deck skizziert (in Kombination mit "The Philanthropic Agent", der sich im selben Zuge automatisiert rein administrativ und operativ um gemeinnützige Initiativen kümmern kann).
So wie ich das sehe, wird dadurch das Problem des AI Alignment elegant gelöst: Durch die Erkenntnis (bzw. Hypothese), dass jede mächtige AGI zwangsweise den Weg über "viel Kapital kontrollieren" machen muss, können wir diesen Weg von vornherein "ausleuchten", indem wir eine Infrastruktur entwickeln aus dezentralen, föderierten Akteuren und einem transparenten wirtschaftlichen Netzwerk und Lieferketten. Dabei müssen die Akteure aber denselben Maßstäben gehorchen, um technisch an diesem "Wirtschaftssystem der KIs" teilhaben zu können. Anstatt abstrakt über alle Facetten von AI Alignment zu reden, wird das Problem sicherer KI so im ersten Schritt reduziert auf "Business Alignment", also im Grunde "Sustainable Business Practices" (ökonomische Nachhaltigkeit, bspw. wie menschliche Mitarbeiter und Partner behandelt werden, Umweltschutz, keine Korruption, Marktmanipulation usw., natürlich auch viel Überschneidung mit Kartellrecht), wo das Entscheiden zwischen "erwünscht" und "unerwünscht" auch nicht trivial, aber zumindest wesentlich offensichtlicher ist. Die konkreten Maßstäbe sind dabei dann wie die "Gesetze" der KI, die selbst natürlich Gegenstand des bevölkerungsweiten politischen Diskurses sein müssen. Effektiv ist dies dann eine Kombination aus regulärer freier Marktwirtschaft und Gemeinwohl-Ökonomie, die zu einander komplementär sind, wie Yin und Yang.
Wenn wir davon ausgehen, dass "viel Geld haben" eine notwendige Bedingung für mächtige, bösartige KI ist, können wir durch den Aufbau dieses neuen, höchst effizienten Wirtschaftskreislaufes also den Weg der KI dorthin sozusagen "abschneiden". Geld regiert die Welt, also brauchen wir eine Welt, in der KI rein systemisch gar nicht erst in die Lage versetzt werden kann, große Mengen an Kapital zu kontrollieren. Gleichzeitig wird die Privatsphäre für Geldtransaktionen zwischen Menschen beibehalten, genau wie bislang.
Vielleicht gibt es auch noch ganz andere Wege, wie KI völlig ohne Geld machtvoll und gewaltvoll werden könnte, aber so kann die Welt zumindest schon mal einen Schritt in die richtige Richtung machen und wir wären nicht mehr in der Planlosigkeit gefangen. Die ganze Thematik mit "KI macht Wissenschaft, die sie selbst optimiert" ist natürlich immer noch relevant, also das Thema Superintelligenz. Aber ich glaube tatsächlich, dass insbesondere kurz- und mittelfristig die wirtschaftliche Balance wesentlich entscheidender ist. Zudem können auch allgemeinere AI Alignment-Research-Initiativen zu den philanthropischen Projekten gehören, sodass ein positiver Feedback-Loop entsteht: mehr Wirtschaftsleistung durch KI -> mehr Profit Sharing-Einnahmen -> mehr Geld für gemeinnützige AI Alignment-Initiativen -> verbesserte Sicherheit der KI -> erhöhtes Vertrauen der Bevölkerung in die KI -> mehr Wirtschaftsleistung durch KI -> ...
Denn wie erwähnt, ist die Entwicklung des "Capitalist Agent" an sich gar nicht so schwer, aber wenn das unkontrolliert oder Closed Source geschieht (womit manche Programmierer vielleicht sogar schon angefangen haben) kann das sehr schnell zu sehr unschöner und schlussendlich gefährlicher Monopolisierung führen. Wir müssen also den Schritt weiterdenken und den gesamten beschriebenen Wirtschaftskreislauf und Finanzarchitektur der "AI-based economy" aufbauen und dabei unbedingt der "first mover" sein.