ℜ
Physik Chemie Grundschule Mathematik I Mathematik II Wissen
Kurze Worte Worte nach Alter Terme Rechner
Mathfeed Physfeed Philfeed
Das Lexikon Die Mission Die Autoren Copyright Impressum
Physik 5-10 Physik 11-13 Chemie 5-13 Mathe 5-8 Mathe 9-10 Mathe 10-13
☰
A B C D E F G H I J K L M N O P Q R S T U V W X Y Z 9 Ω
Das Banner der Rhetos-Website: zwei griechische Denker betrachten ein physikalisches Universum um sie herum.

Technologische Singularität

Menschheits-Schicksal

Basiswissen


Als technologische Singularität bezeichnet man den Zeitpunkt oder das Ereignis wenn künstliche Intelligenz erstmals die menschliche Intelligenz überragt und Menschen das Geschehen weder nachvollziehen noch kontrollieren können[7]. Unklar ist, woran dieses Ereignis sicher erkannt werden soll. Manche Personen sehen die technologische Singularität bereits als geschehen an, andere verorten sie in den kommenden Jahrzehnten[28]. Einige gewichtige philosophische Aspekte sind hier kurz behandelt.

Die erste Erwähnung einer technologischen Singularität


Der Begriff wurde spätestens im Jahr 1958 zum ersten Mal in dem heute üblichen Sinn erwähnt. Der Mathematiker Stanisław Ulam schreibt in seinen Erinnerung über ein Gespräch mit dem Computer-Pionier John von Neumann folgende Worte: "Ein Gespräch drehte sich um die stete Beschleunigung des technischen Fortschritts und der Veränderungen im Lebenswandel, die den Anschein macht, auf eine entscheidende Singularität in der Geschichte der Menschheit hinauszulaufen, nach der die Lebensverhältnisse, so wie wir sie kennen, sich nicht fortsetzen könnten."[2].

KI als Katalysator der technologischen Singularität


1965 hat der Statistiker Irving John Good (1916 bis 2009) den Begriff explizit auf künstliche Intelligenz bezogen, womit die heutige Bedeutung von Singularität erfasst ist: "Eine ultraintelligente Maschine sei definiert als eine Maschine, die die intellektuellen Fähigkeiten jedes Menschen, und sei er noch so intelligent, bei weitem übertreffen kann. Da der Bau eben solcher Maschinen eine dieser intellektuellen Fähigkeiten ist, kann eine ultraintelligente Maschine noch bessere Maschinen bauen; zweifellos würde es dann zu einer explosionsartigen Entwicklung der Intelligenz kommen, und die menschliche Intelligenz würde weit dahinter zurückbleiben. Die erste ultraintelligente Maschine ist also die letzte Erfindung, die der Mensch zu machen hat."[3]

Das Militär als Katalysator der Singularität


Der Krieg ist der Vater aller Dinge[15]: Der polnische Schriftsteller Stanislaw Lem[5] sah im Militärwesen treibende Kräfte hin zu einer Singularität. Der Zwang in kriegerischen Auseinandersetzungen zu bestehen zwingt zur Verwendung bestmöglicher Waffensysteme. Diese können zunehmend nur noch mit Hilfe von KI erschaffen werden. Lem zeichnete bereits im Jahr 1980 das Bild hybrider Mensch-Maschinen-Systeme, in denen dem Menschen eine immer unbedeutendere Rolle zukommt. Doch während Planer im Jahr 2022 von einer gleichberechtigten, fast symbiotischen Miteinander von Mensch und Technik ausgingen (human-AI collaborative decision-making[13]), sagte Lem 1980 voraus, dass die Generäle irgendwann nur noch pro forma entscheiden und de facto stets den Vorchlägen der Computer folgen würden. Lem zufolge würden Menschen sich immer weiter zurückentwickeln und gerade dadurch das Gesamtsystem effizienter machen. Lem sah das Militär der Zukunft einem Insektenschwarm ähnlich, seine Effizienz beruhe auf degenerierten Einzelindividuen, die aber gerade deshalb im Schwarm zu erfolgreich seien. Lem bezeichnete diese scheinbar paradoxe Entwicklung als soziointegrative Degeneration ↗

Woran kann man die technologische Singularität erkennen?


Oder noch besser gefragt: könnte man sie überhaupt erkennen? Im Rückblick mag uns heute die Industrielle Revolution im frühen 19ten Jahrhundert wie ein gewalteriger Umbruch erscheinen. Tatsächlich lag das Gefühl eines Umbruchs wohl auch in der Luft. Goethe klagte um 1821: "Das überhandnehmende Maschinenwesen quält und ängstigt mich, es wälzt sich heran wie ein Gewitter[14]". Doch werden die meisten Menschen in Mitteleuropa über ihre Lebensspanne eher langsame Veränderungen als plötzliche Umbrüche beobachtet haben. Am Anfang von Goethes Leben, im 1749, fuhren reiche Menschen genauso mit der Kutsche wie in seinem Todesjahr 1832. Und obwohl zwischenzeitlich das Dampfschiff erfunden waren, reisten viele Menschen noch weit Richtung 1900 mit Segelschiffen über die Meere.

Und bemerkenswert ist auch, wie wenig die Menschen des frühen 19ten Jahrhunderts sich die heraufkommende Welt wirklich vorstellen konnten. Kühne Bilder der Zukunft gingen so weit, dass man sich transatlantische Reisen in einem Ballon vorstellte[16]. Und noch im Jahr galt Jules Vernes Roman "Reise um die Welt in 80 Tagen[17]" als phantastisch. Moderne Touristen könnten theoretisch die Welt in knapp zwei Tagen in einem Flugzeug umrunden.

Epochale Umbrüche werden von Historikern meist nur rückwirkend vergeben. Man spricht von Zeitenwenden, oft symbolisch verdichtet auf Sternstunden der Geschichte. Erst im "makroskopischen" Blick über die Jahrhunderte, erkennt man, was wirklich sich geändert hat.

Die Singularität erkennen: schleichende Vereinnahmung


In seinem Roman David Copperfield schildert der englische Schriftsteller Charles Dickes (1812 bis 1870) die durch und durch intrigante Figur des Uriah Heep. Heep arbeitet als Angestellter in der Rechtsanwalts-Kanzlei Wickfield. Schleichend übernimmt er von Wickfield immer mehr seiner Tätigkeiten, ermuntert ihn zum Alkoholismus. Letztendlich erpresst Heep seinen Chef Wickfield übernimmt die Kontrolle über die Kanzlei. Heeps bleibende Beliebtheit als fiktiver Charakter - eine Rock Band benannte sich nach ihm - beruht unter anderem auf seiner gespielten Unterwürfigkeit als Schmeichler.

Das Motiv des Uriah erinnert an Goethes (1749 bis 1832) Zauberlehrling. Auch in der Ballade Goethes wächst der ehemalige Helfer seinem Herrn schnell über den Kopf. Bei Goethe ist es ein Besen, der auf einen Zauberspruch hin beginnt, Wasser in ein Bad zu tragen. Doch hat der Lehrling, der den Besen den Befehlt dazu erteilte, den Spruch vergessen, dass der Besen auch wieder aufhöhre. So trägt der Besen immer mehr Wasser ins Haus, bis dieses droht unterzugehen. Gegen Ende der Ballade kommt dann das berühmte Wort Goethes: "Herr, die Not ist groß! Die ich rief, die Geister werd ich nun nicht los."

Uriah Heep und der Zauberbesen wurden beide von einem Helfer zu einer Plage. Sie wuchsen beide ihrem ehemaligen Gebieter über den Kopf. Und beide ließen sich nur schwer wieder in ihre Schranken verweisen.

Der Unternehmer und Visionär Elon Musk sieht die Künstliche Intelligenz in einer ähnlichen Rolle wie Dickens' Uriah Heep oder Goethes Zauberbesen. Im Jahr 2021 warnte warnt: The percentage of intelligence that is not human is increasing: der Anteil nicht-menschlicher Intelligenz wächst[1].

Musks lakonische Feststellung umgeht problematische Fragen der Art, ob Computer wirklich denken können oder wie man Intelligenz überhaupt messen könnte. Wenn wir Intelligenz dort sehen, wo Menschen für eine Tätigkeit oder Entscheidung Bewusstsein benötigen, dann kann man im Umkehrschluss defiieren: wenn Maschinen etwas tun, wofür Menschen Bewusstsein brauchen, dann können wir dort den Maschinen auch Intelligenz zugestehen. Und so wie sich die tragische Figur Wickfields den Schmeicheleien Heeps hingab, so geben sich auch immer mehr Menschen den komfortablen digitalen Helfern hin.


Manche Autoren[12][19] deuten dieses geschmeidige Einsickern von KI in alle unsere Lebensbereiche als Indiz dafür, dass wir bereits inmitten eines Prozesses der Singularität stecken. Der Philosoph Kazem Sadegh-Zadeh (geboren 1942) sieht den modernen Menschen gefangen in seinen Alltäglichkeiten. Die materielle Verkörperung der technologischen Singularität sieht er in einer weltumspannenden Globalmaschine. Er sieht eine Welt „wo die Tägigkeit des Menschen nur noch darin bestehen wird, die Globalmaschine zu bedienen ... er wird mittels ubiquitäter Sprechanlagen und transportabler Handys in das Internet nur noch sprechen, um seine Wünsche erfüllt zu bekommen.“ Und: „Er wird nur noch in den Fernseher starren ... um Produkte wie Big Brother zu genießen ... und er wird immer noch nicht wahrnehmen, wie weit er gekommen, zurückgeschritten, aufgestiegen oder gefallen ist. Denn er wird nicht verstehen, daß hier eine Frage besteht.[18]“

Wie Stanislaw Lem seine fiktiven militärischen Führer blind in dem Glauben untergehen sieht, sie träfen sie träfen eigene Entscheidugnen, derweil Computer sie wirklich trafen, so sieht auch Sadegh-Zadeh den modernen als blind gegenüber den großen Veränderungen, die über ihn hinweggehen, oder die er macht. Siehe mehr zu Sadegh-Zadehs Sicht im Artikel über seine Machina sapiens ↗

Die Singularität erkennen: quantitative Indikatoren


Empirische Sozialwissenschaftler versuchen, Konzepte einer qualitativen Veränderungen messbar zu machen. Das zwingt unter anderem zu gut definierten Worten. Als Methode spricht man hier von einer Operationalisierung. Autoren charakterisieren die Technologische Singularität oft qualitativ mit Konzepten wie "Explosion künstlicher Intelligenz" (explosion of growth in artificial intelligence), Maschinen die "schlauer" (smarter) als Menschen sind, oder einer "Verschmelzung von Menschen und KI" (humans become so integrated with AI), dass Menschen als solche nicht mehr zu erkennen sein würden (that we could no longer be called human in the traditional sense)[19].

Was genau meint nun zum Beispiel ein Begriff wie die Explosion von Künstlicher Intelligenz? Woran will man das objektiv festmachen? Kann man von einer Explosion sprechen, wenn der Jahresumsatz der KI-Branche um mehr als zum Beispiel 20 % steigt? Oder sollte man den Begriff einem explosionsartigen Wachstum von KI daran festmachen, irgendwie verbinden mit dem Anteil menschlicher Arbeit an der Wertschöpfung einer Volkswirtschaft? Zumindest bis 2023 scheint es seitens der quantitativen Sozialforschung keinen im Internet leicht auffindabaren Vorschlag zu einer Messung der technologischen Singularität zu geben[20].

In der Sprache der empirischen Sozialforschung kann man zunächst ein sogenanntes Skalenniveau festlegen. Anschaulich gesagt, gibt man mit dem Skalenniveau an, wie gut ein Phänomen zahlenmäßig fassbar ist. Die klassischen Zahlenniveaus sind:


Die Singularität erkennen: Nominalskala



Die Singularität erkennen: Ordinalskala


Man könne die unter der Nominalskala beispielhaft vorgeschlagenen Indikatoren verwenden und sie im Sinne von mehr oder weniger definieren. Wenn man zum Beispiel feststellen kann, dass der Anteil der von Maschinen erzeugten Worte in sozialen Medien am Anteil aller dort gelesenen Worte steigt, dann könnte man folgern, dass der Grad der technologischen Singularität zunimmt. Siehe auch Ordinalskala ↗

Die Singularität erkennen: Intervallskala


Bei einer Intervallskala müsste man für jeden Indikator einen Zahlenwert angegeben. Dieser Zahlenwert müsste sich sinnvoll als ein zahlenmäßiges Mehr oder Weniger deuten lassen. Das Bruttonationaleinkommen ist so definiert, dass es recht gut wirklich produzierte Güter abbildet. Den Anteil der von Menschen durch eigenes Tun erzeugten Werte am Bruttonationakeinkommen könnte man dann als Humananteil am Bruttonationaleinkommen bezeichnen. Komplementär dazu könnte man auch von einem Maschinenanteil am Bruttonationaleinkommen sprechen. Diesen Maschinenanteil könnte man dann als Proxyvariable für den Grad der Erreichung der technologischen Singularität verwenden. Bei 10 % mehr Maschinenanteil hätte man auch 10 % mehr technologische Singularität erreicht[24]. Analog könnte man mit weiteren Indikatoren verfahren. Siehe auch Proxy-Variable ↗

Die Singularität erkennen: Verhältnisskala


Immer dann wenn man den Indikator zahlenmäßig messen kann und auch gilt dass der doppelte Zahlenwert sinvoll für das Doppelte seines Merkmals steht, hat man eine Verhältnisskala. Das soll am Beispiel der Oberflächenverwendung veranschaulicht werden. Man kann zum Beispiel eine Liste von Arten von Flächennutzungen definieren, die direkt notwendig für den Lebenserhalt von Menschen bei der gegebenen Anzahl von Menschen auf der Erde sind: man kann nicht auf ein Mindestmaß an Wohnflächen, Landwirtschaftsfläche und Industrieflächen zur Aufrechterhaltung der Lebensmittelversorgung verzichten. Man könnte diese Flächen der Art und der Größe nach als Lebenserhaltungsflächen bezeichnen. Umgekehrt könnte man die komplementären Flächen, die nicht notwendig für das Überleben aller jetzt lebenden Menschen sind, als Entbehrlichkeitsflächen bezeichnen. Sind diese Entbehrlichkeitsflächen wirtschaftlich genutzt, etwa als Solarparks, Rechenzentren oder Infrastruktur, so könnte man sie als produktive Entbehrlichkeitsflächen bezeichnen. Treten die produktiven Entbehrlichkeitsflächen dauerhaft erfolgreich in einen wirtschaftlichen Verdrängungswettbewerb mit den Lebenserhaltungsflächen[22], so werden auf der Erde zunehmend weniger Menschen lebensfähig sein. Der Anteil von produktiven Entbehrlichkeitsflächen zu den insgesamt nutzbaren Flächen könnte man in Anlehnung an Kazem Sadegh-Zadehs Konzept der Globalmaschine kurz als Globalmaschinen-Wert oder als Sadedh-Zadeh-Zahl bezeichnen. Eine solche Zahl könnte wiederum als Proxy-Variable für die technologische Singularität verwendet werden. Sie gibt an, wie gut der Mensch seine essentiellen biologischen Lebensbedürfnisse gegen das Vordringen von Maschinen verteidigen kann. Steigt der Anteil an produktive Entbehrlichkeitsflächen an allen vom Menschen nutzbaren Flächen von 20 % auf 40 %, so könnte man sinnvoll sagen, dass der Grad der technologischen Singularität sich verdoppelt habe. Siehe auch Flächenverbrauch ↗

Ein soziotechnisches Überwesen als Ergebnis einer Singularität?


Für eine Übergangszeit oder auch dauerhaft für die Zeit nach der Singularität werden verschiedene Szenarien einer engen Verflechtung von menschlichen und technischen Komponenten beschrieben. Der Mensch könnte körperlich mit Hardware verbunden werden (enhancement) oder in seiner jetzigen organischen Form lediglich eine enge funktionale Verbindung mit Computerintelligenzen eingehen (Symbiose). Daraus - so manche Autoren - entstünde dann eine zusammenhängende Intelligenz in Form eines Meta- oder Superorganismus. Lies mehr dazu unter Technosoziobiont ↗

Das Phänomen des Kontrollverlust: auch schon vorindustriell


Als Kennzeichnen einer technologischen Singularität wird oft der Übergang der Kontrolle oder der Nachvollziehbareit der menschlich wichtigen Angelegenheiten auf eine maschinenbasierte Form von kollektiver Intelligenz genannt. Wo das Spezifische hier der Kontrollverlust oder der Verlust der Nachvollziehbarkeit sein soll, ist das Phänomen aber keineswegs an Maschinen oder künstliche Intelligenz gebunden. Auch in quasi maschinenfreien menschlichen Gesellschaften schwindet ab einer gewissen Größe der Einfluss und der Durchblick individueller Personen soweit, dass sie sich einfluss- und orientierungslos fühlen können. Ein Textstück aus dem Jahr 1917 beschreibt, wie der Einzelne niemals die Regungen des sozialen Organismus als Ganzes wird erfassen önne: "The processes of civilizational activity are almost unknown to us. The self-sufficient factors that govern their working are unresolved. The forces and principles of mechanistic science can indeed analyze our civilization; but in so doing they destroy its essence, and leave us without understanding of the very thing which we seek. The historian as yet can do little but picture. He traces and he connects what seems far removed; he balances; he intergrates; but he does nor really explain, nor does he transmute phenomena into something else. His method is not science; but neither can the scientist deal with historical material and leave it civilization, nor anything resembling civilization, nor convert it wholly into concepts of life and leave nothing else to be be done. What we all are able to do is to realize this gap, to be impressed by its abyss with reverence and humility, and to go our paths on its respective sides without self-deluding attempts to bridge the eternal chasm, or empty boasts that its span is achieved."[6]

Zitate zur technologischen Singularität



Fußnoten




Computer steuern Menschen: in dieser Vision aus dem Jahr 2007 erzeugen Computersysteme den Überblick und die Feinsteuerung in städtischen Kampfgebieten. Kein Mensch wird mehr in der Lage sein, einen besseren Überblick zu bekommen. DARPA


 künstliche Superintelligenz">