Wir befinden uns an der Schwelle zur folgenreichsten Periode der Menschheitsgeschichte. Maschinen beginnen den Menschen in Intelligenz zu übersteigen. Innerhalb der nächsten 10 Jahre wird der Zeitpunkt kommen, an dem KI sich selbst verbessern und kurz danach den Menschen in Intelligenz übertreffen wird [1]. Stephen Hawking, Elon Musk und 2 der 3 Begründer von moderner KI warnen vor existenzbedrohenden Risiken. Getrieben durch kurzfristiges Profitstreben und Gier nach Macht überspringen wir die Integration der wichtigsten Faktoren in die Gestaltung unserer gemeinsamen, durch KI maßgeblich beeinflussten Zukunft: Bedacht, Geduld und Intentionalität.
Warum ist KI anders als andere Technologien?
Künstliche Intelligenz wird unsere Zukunft stärker beeinflussen als anderen Technologien das in der Geschichte getan haben. Das liegt daran, dass künstliche Intelligenz schon bald in der Lage sein wird, sich eigenständig zu verbessern. Das führt unmittelbar zu einer positiven Feedbackdynamik - KI wird sich selbst optimieren, mit zunehmenden Fähigkeiten wird sie sich noch schneller noch effektiver verbessern können [2, 3] und kurz darauf den Menschen in Intelligenz übertreffen.
KI-Forschung und -Entwicklung basieren im Kern auf Mathematik und Informatik. Fortschritte in den Fähigkeiten in diesen Bereichen von KI passieren wahnsinnig schnell [4] und erste autonome KI-Forschungssysteme sind bereits entwickelt worden [5].
Es lässt sich nicht mit Sicherheit vorhersagen, dass “Artificial General Intelligence” (AGI, generelle künstliche Intelligenz zu deutsch), die intelligenter ist als der Mensch, negative Konsequenzen für uns haben wird. Aber es lässt sich auch nicht ausschließen.
In einer Umfrage mit KI Forschern und Experten [1] im Jahr 2022 wurde folgende Frage gestellt:
“Wie hoch schätzen Sie die Wahrscheinlichkeit ein, dass zukünftige Fortschritte in der KI das Aussterben der Menschheit oder eine ähnlich dauerhafte und schwerwiegende Entmachtung der menschlichen Spezies verursachen könnten?”
50% der Experten (81 von 162) gaben eine Chance von 10% oder höher an. Zur Gruppe derer, die vor existenzbedrohlichen Gefahren durch KI warnen, gehören darüber hinaus Stephen Hawking [6], Elon Musk [7] und 2 der 3 Begründer moderner KI Entwicklung, Geoffrey Hinton und Yoshua Bengio [8].
Potenzielle negative Konsequenzen, denen wir uns abgesehen von existenzbedrohenden Risiken ausgesetzt sehen könnten, sind vielfältig:
Zunehmende soziale Ungerechtigkeit durch Vermögenskonzentration in den Händen einiger weniger Akteure
Verstärkte staatliche Kontrolle und Überwachung, vor allem in autoritären Staaten
Ausgeweiteter Eingriff in die Privatsphäre des Menschen durch die zunehmende Verarbeitbarkeit digitaler Daten.
Entwicklung autonomer Waffensysteme sowie synthetischer Viren und daraus resultierenden Pandemien [1].
Weitere ethische Implikationen wie Urheberrechtsverletzungen, Zunahme negativer sozialer Stereotypen, usw.
Nichtsdestotrotz schreitet die Entwicklung fortschrittlicher KI, mit dem Ziel der Entwicklung von AGI, mit zunehmender Geschwindigkeit voran [8]. Es ergibt sich also die Frage, warum dieser Weg nicht mit mehr Wachsamkeit und vorausschauender Vorsicht beschritten wird.
Der Ursprung des Problems
Die Entwicklung wirklich fortschrittlicher KI entstammt der Arbeit einer sehr kleinen Anzahl von KI Forschungslaboren, die in Startups eingebettet sind. Nur diese Labore können solche KI entwickeln, weil das Training der Modelle mit astronomischen Kosten verbunden ist. Die Kosten für das Training von GPT-5 werden mittlerweile auf über 1 Milliarde USD geschätzt [9]. Die Entwicklungsarbeit, die diese Labore betreiben, unterliegen verschiedenen Faktoren. Die wichtigsten Dynamiken, die die Entwicklung von AGI beeinflussen sind die ökonomische Marktdynamik des Kapitalismus und der durch die Gesetzgebung geschaffene Handlungsspielraum.
Die Grunddynamik, welcher KI Entwicklung unterliegt, ist die des Wettbewerbs. Dieser besteht primär auf zwei Ebenen: ökonomischem Wettbewerb und politischem Wettbewerb.
Der ökonomische Wettbewerb um Marktführerschaft ist eine Folge der durch den Kapitalismus geschaffenen Incentivierung und ist die treibende Kraft in der Entwicklung von AGI, weil erst dadurch Investitionssummen ermöglicht werden, die benötigt werden, um fortschrittliche KI zu entwickeln. Auf der politischen Ebene und im geopolitischen Wettbewerb wird technologische Innovation als Katalysator für eine Verschiebung der Machtverhältnisse betrachtet. Tatsächlich ist es nicht unüblich, dass die Entwicklung und Diffusion einer neuen Allzwecktechnologie (bspw. Elektrizität, die Dampfmaschine oder KI) zu einer Verschiebung der internationalen Machtverhältnisse führt [10]. Die primären Interessengruppen, die von der Entwicklung von AGI profitieren und die Entwicklungsdynamik gestalten sind dementsprechend eine kleine Gruppe von Unternehmern und ihren Investoren, die bestrebt sind Profit zu maximieren, sowie politische Akteure die bestrebt sind ihre Macht zu stärken und auszuweiten. Die ökonomische Ebene ist verantwortlich für Innovation, die politische Ebene für die Art und Weise der Anwendung und Einführung der Technologie in verschiedene gesellschaftliche Bereiche.
Verfolgt man die Kausalzusammenhänge, die die Natur der Entwicklung und letztendlichen Auswirkungen von KI auf unser aller Leben bestimmen, bis zu ihrem Kern, entspringt die Dynamik, in welcher AGI entwickelt wird, den psychologischen Triebkräften die diese Interessengruppen bewegen und ihre Entscheidungsfindung bestimmen. Millenia der Evolution hat kurioserweise biologisch und psychologisch verankerte Motivationsfaktoren geschaffen, die heute die primären Einflussfaktoren - und der hauptsächlich entstehenden Gefahren durch KI - darstellen: Gier und Macht.
Sicherlich sind viele der führenden KI Forscher, nach eigenen Aussagen, durch wissenschaftliche Neugierde und altruistische Motive bewegt. Den Einfluss, den die Gruppe der entwickelnden Forscher allerdings auf das Resultat der KI Revolution hat, ist im Vergleich zu dem der bereits angesprochenen Interessengruppen - der Investoren und Unternehmer, sowie der politischen Akteure - verschwindend gering.
Letztendlich ist also die Entwicklung fortschrittlicher KI, ursprünglich einmal das Resultat natürlicher menschlicher Neugierde einiger Forscher, nun primär angetrieben durch die psychologischen Anreize, welche die primären Interessengruppen motivieren - also Gier und Macht.
Das Resultat ist die Situation in welcher wir uns heute befinden und welche von vielen als ein “Wettrennen zum Boden” [11] oder auch ein “Wettrennen zur Klippe” bezeichnet wird.
Eine Wettrennendynamik, in der keiner der individuellen Akteure gewillt ist, seine Aktivitäten zu verlangsamen oder einzustellen, auf die Gefahr hin von den weiteren Akteuren übertrumpft zu werden. Als Folge entstehen potenziell gefährliche Sicherheitsrisiken weil essenzielle Arbeit an Sicherheitsmechanismen und benötigte Grundlagenforschung zu der Funktionsweise von KI Systemen übersprungen werden [11].
Was können wir tun, um die wichtigsten Gefahren zu vermeiden während wir gleichzeitig die potenziellen positiven Aspekte dieser Technologie in den Vordergrund rücken können?
Was können wir tun?
Um den Herausforderungen der KI-Entwicklung zu begegnen, ist ein holistischer Ansatz erforderlich, der die Auswirkungen der Technologie auf die Gesellschaft ganzheitlich evaluiert und Maßnahmen erlaubt, die über die Incentivierung limitierter Interessengruppen hinausgehen.
Die stärkste Prägung auf die Entwicklung fortschrittlicher KI entsteht durch die Wertestrukturen, die wir als Gesellschaft akzeptiert haben. Wir befinden uns im Zeitalter des “Egozentrismus”. Das Paradigma, das wir als natürlich und normal akzeptieren, ist, dass Handlungen primär und beinahe ausschließlich durch die Befriedigung der eigenen Interessen motiviert sind.
Was dieses Weltbild außen vor lässt, ist, dass es durch zunehmend mächtige Technologie für einzelne Akteure immer leichter möglich ist, durch ihr Handeln das Schicksal des Großteils der Menschheit mitzubestimmen - ob intentional oder nicht. Ähnlich wie der Paradigmenwechsel vom Geozentrismus (die Erde als Mittelpunkt der Universums) zum Heliozentrismus (die Sonne als Zentrum des Universums) braucht es nun einen Paradigmenwechsel vom Egozentrismus zum Holismus. Die mächtigste Auswirkung auf das Verhalten und Resultat eines Systems - wie der KI-Industrie - sind die dem Paradigma zugrunde liegenden Ziele zu verändern [12]. Unsere größte Hoffnung für nachhaltig positiven Wandel besteht deshalb in der Auflösung oder Abschwächung egozentrischer Motivationsfaktoren und der Akzeptanz einer holistischen Betrachtungsweise - also die Betrachtung und Bewertung von Handlungen im Rahmen ihrer Auswirkungen auf das System als Ganzes.
Auf konkreter und unmittelbarer Ebene müssen sowohl regulatorische als auch ökonomische Hebel genutzt werden, um positive Veränderung zu bewirken. Verstärkte Regulierung der KI-Entwicklung auf nationaler und internationaler Ebene kann dazu beitragen, ethische Standards zu setzen und Sicherheitsrisiken zu minimieren, ohne dabei Innovation einzudämmen. Parallel dazu sollte die Förderung der KI-Sicherheitsforschung intensiviert werden, um dem "Wettrennen zum Boden" entgegenzuwirken und fundierte Grundlagen für verantwortungsvolle KI-Systeme zu schaffen. Dies könnte durch Steuervergünstigungen, bevorzugte Forschungsförderung oder regulatorische Erleichterungen für Unternehmen erreicht werden, die nachweislich in KI-Sicherheit investieren und ethische Richtlinien einhalten. Von zentraler Bedeutung ist die Schaffung von Anreizen für eine sichere KI-Entwicklung. Anstatt ausschließlich Geschwindigkeit und Marktdominanz zu belohnen, sollten wirtschaftliche und politische Mechanismen etabliert werden, die die ethische und sichere Entwicklung von KI honorieren.
Zusätzlich zu diesen Maßnahmen sind Transparenz und ein breiter öffentlicher Diskurs unerlässlich, um einen gesellschaftlichen Konsens über die Entwicklungsrichtung von KI zu erzielen. Eine verstärkte internationale Zusammenarbeit könnte dazu beitragen, gemeinsame Sicherheitsstandards zu etablieren und die globale Wettrennen Dynamik abzuschwächen. Die Einrichtung unabhängiger Ethikkommissionen und Aufsichtsgremien würde eine kritische Begleitung der KI-Entwicklung ermöglichen. Zudem ist eine umfassende Bildungs- und Aufklärungsarbeit notwendig, um die Öffentlichkeit über die Potenziale und Risiken von KI zu informieren und eine fundierte gesellschaftliche Debatte zu fördern. Schließlich sollte die Diversifizierung der an der KI-Entwicklung beteiligten Interessengruppen vorangetrieben werden, um eine ausgewogenere Berücksichtigung verschiedener Perspektiven und Bedürfnisse zu gewährleisten. Nur durch die synergetische Wirkung dieser Maßnahmen kann es gelingen, die Entwicklung von KI in eine Richtung zu lenken, die positiv zum Gemeinwohl beiträgt, Innovation fördert und dabei verantwortungsvoll ist.
Fazit
Künstliche Intelligenz wird unser aller gemeinsamer Zukunft maßgeblich und nachhaltig beeinflussen. Sowohl die Entwicklung der Technologie als auch den gesellschaftlichen Wandel bewusst zu gestalten und somit positive Zukunftsszenarien zu stärken, während Gefahren und Risikoszenarien umgangen oder reduziert werden, ist von oberster Bedeutung.
In einem Zeitalter geprägt von Egozentrismus brauchen wir eine holistische Betrachtungsweise der Konsequenzen unseres Handelns auf das Gesamtsystem in dem wir alle Leben.
Meine Hoffnung ist es dass wir durch zunehmende Reflexion und Diskurs dieser zentralen Themen zu mehr Bewusstheit bezüglich der potenziellen Gefahren und den Motivationsfaktoren unseres Handelns gelangen. Nur so werden wir als kollektiv in der Lage sein die Entwicklung bewusst und nachhaltig zu gestalten.
Quellen
[1] Kurzweil, R. (2024). The singularity is nearer: When we merge with AI. Viking.
[2] Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies (Illustrated ed.). Oxford University Press.
[3] https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/?ref=warpnews.org
[4] https://www.bbc.com/news/technology-30290540
[6] https://www.independent.co.uk/news/uk/politics/elon-musk-rishi-sunak-government-spacex-tesla-b2439715.html
[7] https://moderndiplomacy.eu/2024/06/04/do-we-face-an-existential-threat-by-geoffrey-hinton-a-review/
[9] https://klu.ai/glossary/openai-gpt-5
[10] Ding, J. (2024). Technology and the rise of great powers: How diffusion shapes economic competition. Princeton University Press.
[12] Meadows, D. H. (2008). Thinking in Systems: A Primer. Chelsea Green Publishing.
Comments