Bostrom-Bremse
Futurologie
Grundidee
Menschen kosten Geld und haben begrenzte Fähigkeiten. Wenn künstliche Intelligenzen weniger Geld und höhere Fähigkeiten haben sollten, dann könnten sie zum Beispiel auch billiger und besser Texte übersetzen[6], sicherer Fahrzeuge steuern[7] oder psychotherapeutisch tätig werden[9]. Dann würden künstliche Intelligenzen aber auch Menschen aus bisherigen Erwerbs- und Entscheidungspositionen[10] verdrängen. Vielleicht bleibt nur eine kurze Zeit, eine solche Selbstabschaffung des biologischen Jetztmenschen abzuwenden. Dieser vielleicht nur kurze Zeitraum wird hier nach dem schwedischen Philosophen Nick Bostrom kurz Bostrom-Fenster genannt. Das dazu verwendete Maßnahmenpaket wäre die Bostrom-Bremse.
Kurze Einführung
Nick Bostrom (geboren 1973 als Niklas Boström) greift zunächst die gängige Vorstellung eines evolutionären Trends zu immer höheren Formen von Komplexität auf. Bostrom hält es aber für möglich, dass bei diesem Trend eine schleichende Elimination aller uns wertvollen Lebensformen (all forms of being that we care about) stattfindet. Die einzige Möglichkeit diesen Trend zu stoppen wäre eine weltweit koordinierte Steuerung des menschlichen Evolution. Bostrom entwickelt diesen Gedanken in einem Essay[1] auführlich in 12 Teilschritten. Diese 12 Schritte aus Bostroms Essay sind hier kurz wiedergegeben.
Bostroms Gedanke 1: Panglossianismus hinterfragen
Bostrom beginnt seinen Gedankengang mit Voltaires Satire "Candide oder der Optimismus"[9]. Darin wird ein junger Mann, Candide, von seinem Lehrer, Pangloss, in der Idee unterwiesen, dass man in der Welt auf einen quasi automatischen Fortschritt vertrauen darf. Candide zieht daraufhin in die wirkliche Welt aus und macht dort ganz gegensätzliche Erfahrungen. Bostrom möchte das optimistische Urvertrauen in den Weltprozess nicht endgültig hinterfragen, aber doch skeptisch anzweifeln ob die menschliche Evolution ihren bisherigen aufwärts-Trend automatisch fortsetzen wird. Siehe auch Panglossianismus ↗
Bostroms Gedanke 2: zwei dystopische Szenarien
Bostrom skizziert zwei evolutionäre Szenarien, die beide in einer Selbstabschaffung des gegenwärtigen Menschentyps enden werden: a) die geistfreien Auslagerer (mindless outsourcers) und b) eine Art durchtaylorisierte reine Arbeitswelt (All-Work-And-No-Fun). Im ersten Szenario, dem geistfreien Auslagern, kommt es zunächst zur transhumanistischen Vision einer Geist-Uploads. Menschen können ihre geistigen Funktionen auf Maschinen übertragen. Dort aber stellen sie fest, dass sie geistige Teilleistungen wie die Fähigkeit zu Rechnen sozusagen zukaufen können. Letztendlich zerfallen ehemalige komplexe bewusste Individuen in ein seelenloses Konglomerat zusammengestrickter algorithmischer Teilfähigkeiten und Prozesse. Im zweiten Szenario geraten wir in den Strudel eines ständigen Optimierungsdruckes, auf der Arbeit effizient zu sein. Das was bisher unser Leben wertvoll machte (humor, love, game-playing, art, sex, dancing, social conversation, philosophy, literature, scientific discovery, food and drink, friendship, parenting, and sport) verschwindet mehr und mehr. Was übrig bleibt ist weitgehend nur Effizienz in einem irgendwie gearteten Arbeitsumfeld. Eine Vorahnung auf eine Kombination aus Bostroms beiden Szenarien zeigte sich in der frühen Phase der Industrialisierung, zum Beispiel in Form eines Taylorismus ↗
Bostroms Gedankenschritt 3: Gegenwart als evolutionäre Instabilität
Hier argumentiert Bostrom, dass die psychischen Neigungen (dispositions) von Menschen nicht so angelegt sind, dass sie sich im genetischen Sinn von maximal vielen Nachkommen optimieren. Würde man, so Botrom, die gegenwärtigen Umstände einfrieren, so würden Menschen über die Zeit wahrscheinlich eine Neigung entwickeln, möglichst viele Nachkommen zu erzeugen. Damit einhergehend würde sich auch eine Abneigung gegen Geburtenkontrolle ausbreiten. Wenn dann ein Hochladen von Persönlichkeiten auf Computersysteme möglich wird, könnten sich Menschen in nahezu beliebiger Anzahl reproduzieren. Bostrom zitiert dann den alte malthusianischen Pessimismus des frühen 19ten Jahrhunderts, die Gefahr, eines Wirtschaftswachstums, dass mit dem Bevölkerungswachstum nicht mithalten kann. Die Lebensqualität eines jedes einzelnen Uploads einer Person würde selbst bei staatlich organisierten Wohlfahrtsprogrammen (Armengeld) drastisch sinken. Den gegenwärtigen Zustand, in dem wir durch Zurückhaltung in der mengenmäßigen Selbstvermehrung bei gleichzeitig hohem Wirtschaftswachstum einen hohen individuellen Lebensstandard sicher, diesen Zustand nennt Bostrom eine evolutionäre Instablität (evolutionary disequilibrium).
Bostroms Gedankene 4: protzige Schau hilft nicht sicher
Menschen tun viele Dinge, die auf den erst Blick keinen evolutionäre Vorteil bieten: sie tanzen, machen Witze, schreiben Gedichte, richten Feiern aus oder ziehen sich teure Kleidungsstücke und Uhren an. Bostrom deutet sie als täuschungsresistente Signale (hard-to-fake-signals) für evolutionär interessante Größen wie etwa geistige Gesundheit, sozialen Status, starke Verbündete, Durchsetzungswillen oder den Zugriff auf Ressourcen. Im Tierreich haben Pfauenmännchen oft absurd aufwändige Schwänze. Weibchen erkennen aber gerade daran Männchen mit hoher genetischer Fitness. Bostrom bezeichnet diese Phänomene als protzige Schau (flamboyant display). Wenn diese "schönen Dinge des Lebens" also über einen kleinen Umweg letztendlich evolutionär nützlich sind, dann könnte sie auch in weiter evolvierten Lebensformen, etwa rein computerbasiertem Leben, weiter bestehen. Doch genau das möchte Bostrom anzweifeln und damit die Hoffnung auf einen automatischen Fortschritt hin zum Schönen weiter hinterfragen. Erstens ist oft sexuelle Attraktivität ein treibende Kraft und die computerbasierten Lebensformen könnten sich asexuell vermehren. Zweitens könnte es zukünftig zuverlässige Indikatoren für Fitness geben als protzige Schau. Man könnte sich zum Beispiel durch einen billigen Prozess "auditieren" lassen. Bekäme man so zum Beispiel durch eine Auskunftei eine hohe finanzielle Bonität zertifiziert, könnte man umgekehrt auf das Signal teurer Kleidung oder Uhren verzichten. Und drittens weist Bostrom darauf hin, dass nicht jede protzige Schau
die Lebensqualität von Individuen verbessert. So gäbe es Indianer, die als Beweis ihrer Stärke große Teil ihrer Ernte vernichteten. Fazit: vieles was wir als wertvoll empfinden ist evolutionär nützliche Schau. Dass eine solche Schau aber auch in Zukunft nötig ist, und damit schöne Dinge des Lebens ermöglicht, ist nicht selbstverständlich.
Bostroms Gedanke 5: zwei Formen der Verdrängung
Zukünftige Lebensformen auf der Erde könnten den Menschen und seinen Lebensstil in zwei Weisen bedrohen: a) der Mensch wird völlig verdrängt und weg-evoluiert (outcompeted) oder b) er wird zu einer Art zweitranginger Randexistenz gedrängt. Dort kann er zwar zahlenmäßig ansehnlich weiter existieren, aber alle wichtigen Ressourcen (Licht, Platz, Materie) werde von der höheren Lebensform beansprucht oder kontrolliert. Um in den Worten des Mahners Kazem Sadegh-Sadeh zu sprechen[11]: womöglich bleibt dem Menschen am Ende nur eine Rolle als kläglicher Cybersaprobiont ↗
Bostroms Gedankenschritt 6: Können wir unsere Evolution kontrollieren
Bostrom hat in den Schritten 1 bis 5 düstere Szenarien einer möglichen Zukunft gezeichnet. Nun stellt er im Punkt 6 die Frage, wie man sich dazu verhalten könnte. Bloße passive oder sogar bejahende Akzeptanz könnte von der Geisteshaltung gefördert werden, dass sich das Stärkere halt durchsetzen müssen und das dann auch gut so sei. Die Macht der Stärke (might is right) lehnt er aber als unbefriedigend ab. Das wird in dem Gedankenspiel deutlich, dass man auch kaum einen Virus als gut und stark bezeichnen würde, der die ganze Menschheit dahingerafft hat. Diese Haltung - Macht hat Recht - kennzeichnet dem englischen Schriftsteller George Orwell (1903 bis 1950) den faschistischen Geist. Bemerkenswerterweise stellte der russische Informatiker Valentin Turchin die von ihm skizzierten Überwesen als tendenziell faschistisch dar[12]. Und ein anderer Autor zog parallelen zwischen evolutionär sehr fitten Insektenstaaten und dem Faschismus[13]. Bostrom lehnt auch die diese klagende Akzeptanz entstehender neuer Lebensformen ab. Bostrom schlägt einen dritten Weg vor: eine Kontrolle unserer eigenen Evolution. Zwar wäre die Entstehung von neuen Lebensformen, etwa rein computerbasiert, der Pfad, demzufolge die evolutionäre Trägheit (default course) uns treibe würde, es gäbe aber keine prinzipiellen Gründe, die einer aktiven Steuerung der Evolution durch den Menschen entgegen stünden. Es gibt aber nur zwei mögliche Varianten: a) man verhindert die Entstehung evolutionär fitter uns aber unliebsamer Lebensformen oder b) man moduliert die evolutionäre Erfolgslandschaft so, dass die dort fitteren Lebensformen auch die von uns gewollten sind. Diese zwei Varianten betrachtet Bostrom dann in den Schritte 7 und 8.
Bostroms Gedanke 7: Böse Geister nicht erwecken
Eine Variante, für uns Menschen eine lebenswerte Zukunft zu erhalten, sie Bostrom daran, uns nicht zuträgliche Lebensformen gar nicht erst entstehen zu lassen. Solche unerwünschten Lebensformen nennt Bostrom nicht-eudämoistische Agenten. Während es technisch gesehen einfach möglich wäre, eine genetische Veränderung von Menschen oder auch eine Veränderung "hochgeladener Lebensformen" zu verhindern, ist die emergente und unvorhersehbare Entstehung neuer unerwünschter Lebensformen infolge von Lernprozessen oder der Rekombination bestehender Komponenten schwer verhinderbar. Wöllte man dies erreichen, müsste man die Gesellschaft sozusagen in einem bestimmten Zustand einfrieren, Bostrom nennt das treffend fossilieren. Diese Weg empfiehlt Bostrom nicht.
Bostroms Gedanke 8: Schöne Lebensformen nützlich halten
Der von Bostrom empfohlene Weg besteht darin, dass man die Erfolgslandschaft der gesellschaflichen Selektionsprozesse so gestaltet, dass von uns als lebenswert empfundene Menschentypen (eudämonistische Agenten) einen evolutionären Vorteil beibehalten. Blickt man in die Geschichte, so findet man durchaus Beispiele, wo die Erhaltung von Lebensqualität politisch gestaltet wurde. Solche Maßnahmen haben sich aber immer gegen das Argument bedrohter Effizienz verteidigen müssen. Ein guten Einstieg in dieses Thema bietet die Antagonie zwischen dem Wohlfahrtsstaat und der Leistungsgesellschaft.
Bostroms Gedanke 9: Maßnahmen zur Steuerung der Evolution
Bostrom schlägt nun konkrete Maßnahmen vor, wie man die Erfolgslandschaft einer zukünftigen Gesellschaft so steuern könnte, dass lebdenswerte ökologische Nischen darin erhalten bleiben und gleichzeitig nicht-eudämonistische Agen uns als nützliche Diener erhalten bleiben.
- Höhere Besteuerung nicht-eudämonistischer Agenten (künstliche Intelligenzen, Roboter)
- Niedrige Besteuerung eudämonistischer Agenten und Nischen (Kultur?)
- Unterbindung nicht-eudämonistischer Lobby-Arbeit (influencing governments)
Bostroms Gedanke 10: Gedankankenexkurs (detour)
Hier entwickelt Bostrom ein sehr schwankendes Konstrukt für Hoffnung: es könnte einen zukünftigen Krieg zwischen eudämonistischen und nicht eudämonistischen Lebensformen geben. Eudämonistisch sind die Formen, die für uns das Leben angenehm machen. Bostrom sieht einen solchen Krieg aber nicht zwischen zwei festen Kriegsparteien sondern als einen Krieg vieler unübersichtlicher Parteien, auf die sich eudämonostische und nicht eudämoistische Wesenszüge unübersichtlich verteilen. Nun könnten eudämonistische Agenten derart eine Allianz mit dem Sieger geschmiedet haben, dass die Eudämonisten ihre Interessen bis in alle Ewigkeit (in perpetuo) gewahrt erhalten. Bostrom spekuliert hier über zuverlässige Techniker von "Geist-Auslesen" (mind scanning, controlling motivation). Bost hält diese Strategie selbst aber für nicht besonders zuverlässig (risky).
Bostroms Gedanke 11: Die Weltregierung
Die einzig zuverlässige Strategie zur Kontrolle unserer eigenen Evolution ist die Errichtung einer Art Weltregierung. Diese nennt Bostrom einen Singleton. Um stabil zu sein, darf dieser Singleton keine externen Wettbewerber (competitors) haben und auch die inneren Prozesse müssen sehr stabil kontrolliert bleiben. Mögliche Singletons könnten sein: eine demokratische Weltregierung, eine wohlwollende superintelligente Weltbeherrschungsmaschine, eine Diktatur, eine stabile Allianz führender Mächte oder auch ein diffusiver Moralkodex. Bostrom warnt davor, die Weltgeschichte in zu kleinen Zeitabschnitten zu betrachten. Über ausreichend lange Zeiträume betrachtet könne man einen Trend hin zu mehr gegenseitiger Abstimmung und politischer Integration feststellen.
Bostroms Gedanke 12: Schluss
Bostrom sieht die Gefahr, dass eine ungesteuerte Evolution zum Verschwinden uns angenehmer Lebensformen oder Lebensumstände führen wird. Evolutionäre Prozesse begünstigen das "Fittere" und das "Fittere" ist nicht zuverlässig auch das Gewünschte. Um entsprechende Szenarien abzuwenden führe kein Weg an einer Art Weltregierung (Singleton) vorbei. Diese Weltregierung muss die Erfolgsfaktoren so gestalten, dass für uns wünschenswerte Lebensweisen einen selektiven Vorteil haben.
Der größere Rahmen: der Weltprozess
Bostroms Idee, eine drohende technologische Singularität durch eine Beschränkung von Wettbewerb abzuwenden, wirft die Frage auf, ob wir das überhaupt sollen. Durch Bostrom Artikel zieht sich wie ein feiner Nebelhauch eine unterschwellige Skepis, ob das überhaupt gelingen kann. Vielleicht ist es gar nicht gewollt. Vielleicht gibt es eine in die Welt eingeprägte Tendenz, sich hin zu höherer Komplexität zu entwickeln. Und vielleicht soll diese Tendenz keine Rücksicht nehmen auf schwächere Elemente, nur vorübergehend nützliche Zwischenstufen? Der Gedanke, dass die gesamte Welt einem vorab in ihr angelegten Prozess folgt ist behandelt im Artikel Weltprozess ↗
Fußnoten
- [1] Nick Bostrom: The Future of Human Evolution. In: Death and Anti-Death: Two Hundred Years After Kant, Fifty Years After Turing. Herausgeber: Charles Tandy (Ria University Press: Palo Alto , California , 2004): pp. 339-371.
- [2] Nick Bostrom: Die Zukunft der Menschheit. Suhrkamp Verlag. 2018. ISBN: 978-3518298459.
- [3] Stanislaw Lem: Der Unbesiegbare. In diesem Roman entwickelt sich aus zivilisatorischem Schrott eine technische Schwarmintelligenz, die letztendlich ihre biologische Elternzivilisation auslöscht.
- [4] Olaf Stapledon: Nebula Maker. In diesem Roman sind planetare Nebel und ganze Sonnen als eigene Lebewesen mit evolutiver Vorgeschichte beschrieben. Siehe auch Nebula Maker ↗
- [5] Zoltan Istvan: The Transhumanist Wager. Futurity Imagine Media LLC; 1. Ausgabe 2013. ISBN: 978-0988616110. Siehe dazu Jethros Window ↗
- [6] Wang Y. The Performance of Artificial Intelligence Translation App in Japanese Language Education Guided by Deep Learning. In: Comput Intell Neurosci. 2022 May 18. doi: 10.1155/2022/7962722. PMID: 35634061; PMCID: PMC9132637.
- [7] Arash Heydarian Pashakhanlou: AI, autonomy, and airpower: the end of pilots? In: Defence Studies. Volume 19, 2019, Issue 4. https://doi.org/10.1080/14702436.2019.1676156
- [8] de Mello FL, de Souza SA. Psychotherapy and Artificial Intelligence: A Proposal for Alignment. Front Psychol. 2019 Feb 11;10:263. doi: 10.3389/fpsyg.2019.00263. PMID: 30804863; PMCID: PMC6378280.
- [9] Voltaire: Candide oder der Optimismus. 1759. Französischer Originaltitel: Candide ou l’optimisme. Siehe auch Panglossianismus ↗
- [10] Stanislaw Lem: Waffensysteme der Zukunft. Suhrkamp Verlag. Originaltitel: Weapon Systems of the 21st Century or The Upside Down Evolution. Suhrkamp Taschenbuch 998. Erste Auflage 1983. Seite 74.
- [11] Kazem Sadegh-Zadeh: Als der Mensch das Denken verlernte: Die Entstehung der Machina sapiens. Burgverlag, Tecklenburg. 2000. ISBN: 3-922506-99-2. Seite 150. Siehe auch Cybersaprobiont ↗
- [12] Valentin Turchin: The Phenomenon of Science. New York: Columbia University Press. ISBN 978-0-231-03983-3. Erstmals veröffentlicht im Jahr 1977. Hier vor allem das Kapitel: The Super-Being Super-Wesen ↗
- [13] Caryl P. Haskins: Of Ants and Men. Prentice Hall, 1939. Ameisenstaaten als Vorbild faschistoider Menschengesellschaften Of Ants and Men (Caryl P. Haskins) ↗
- [14] Im Bezug auf eine mögliche künstliche Superintelligenz fragt Bostrom: "Will it be possible to construct a seed AI or otherwise to engineer initial conditions so as to make an intelligence explosion survivable? How could one achieve a controlled detonation?" In: Nick Bostrom: Superintelligence: Paths, Dangers, Strategies. Oxford University Press. 2014. 328 Seiten. ISBN: 978-0199678112. Siehe auch künstliche Superintelligenz ↗
Bostrom skizziert zwei evolutionäre Szenarien, die beide in einer Selbstabschaffung des gegenwärtigen Menschentyps enden werden: a) die geistfreien Auslagerer (mindless outsourcers) und b) eine Art durchtaylorisierte reine Arbeitswelt (All-Work-And-No-Fun). Im ersten Szenario, dem geistfreien Auslagern, kommt es zunächst zur transhumanistischen Vision einer Geist-Uploads. Menschen können ihre geistigen Funktionen auf Maschinen übertragen. Dort aber stellen sie fest, dass sie geistige Teilleistungen wie die Fähigkeit zu Rechnen sozusagen zukaufen können. Letztendlich zerfallen ehemalige komplexe bewusste Individuen in ein seelenloses Konglomerat zusammengestrickter algorithmischer Teilfähigkeiten und Prozesse. Im zweiten Szenario geraten wir in den Strudel eines ständigen Optimierungsdruckes, auf der Arbeit effizient zu sein. Das was bisher unser Leben wertvoll machte (humor, love, game-playing, art, sex, dancing, social conversation, philosophy, literature, scientific discovery, food and drink, friendship, parenting, and sport) verschwindet mehr und mehr. Was übrig bleibt ist weitgehend nur Effizienz in einem irgendwie gearteten Arbeitsumfeld. Eine Vorahnung auf eine Kombination aus Bostroms beiden Szenarien zeigte sich in der frühen Phase der Industrialisierung, zum Beispiel in Form eines Taylorismus ↗
Bostroms Gedankenschritt 3: Gegenwart als evolutionäre Instabilität
Hier argumentiert Bostrom, dass die psychischen Neigungen (dispositions) von Menschen nicht so angelegt sind, dass sie sich im genetischen Sinn von maximal vielen Nachkommen optimieren. Würde man, so Botrom, die gegenwärtigen Umstände einfrieren, so würden Menschen über die Zeit wahrscheinlich eine Neigung entwickeln, möglichst viele Nachkommen zu erzeugen. Damit einhergehend würde sich auch eine Abneigung gegen Geburtenkontrolle ausbreiten. Wenn dann ein Hochladen von Persönlichkeiten auf Computersysteme möglich wird, könnten sich Menschen in nahezu beliebiger Anzahl reproduzieren. Bostrom zitiert dann den alte malthusianischen Pessimismus des frühen 19ten Jahrhunderts, die Gefahr, eines Wirtschaftswachstums, dass mit dem Bevölkerungswachstum nicht mithalten kann. Die Lebensqualität eines jedes einzelnen Uploads einer Person würde selbst bei staatlich organisierten Wohlfahrtsprogrammen (Armengeld) drastisch sinken. Den gegenwärtigen Zustand, in dem wir durch Zurückhaltung in der mengenmäßigen Selbstvermehrung bei gleichzeitig hohem Wirtschaftswachstum einen hohen individuellen Lebensstandard sicher, diesen Zustand nennt Bostrom eine evolutionäre Instablität (evolutionary disequilibrium).
Bostroms Gedankene 4: protzige Schau hilft nicht sicher
Menschen tun viele Dinge, die auf den erst Blick keinen evolutionäre Vorteil bieten: sie tanzen, machen Witze, schreiben Gedichte, richten Feiern aus oder ziehen sich teure Kleidungsstücke und Uhren an. Bostrom deutet sie als täuschungsresistente Signale (hard-to-fake-signals) für evolutionär interessante Größen wie etwa geistige Gesundheit, sozialen Status, starke Verbündete, Durchsetzungswillen oder den Zugriff auf Ressourcen. Im Tierreich haben Pfauenmännchen oft absurd aufwändige Schwänze. Weibchen erkennen aber gerade daran Männchen mit hoher genetischer Fitness. Bostrom bezeichnet diese Phänomene als protzige Schau (flamboyant display). Wenn diese "schönen Dinge des Lebens" also über einen kleinen Umweg letztendlich evolutionär nützlich sind, dann könnte sie auch in weiter evolvierten Lebensformen, etwa rein computerbasiertem Leben, weiter bestehen. Doch genau das möchte Bostrom anzweifeln und damit die Hoffnung auf einen automatischen Fortschritt hin zum Schönen weiter hinterfragen. Erstens ist oft sexuelle Attraktivität ein treibende Kraft und die computerbasierten Lebensformen könnten sich asexuell vermehren. Zweitens könnte es zukünftig zuverlässige Indikatoren für Fitness geben als protzige Schau. Man könnte sich zum Beispiel durch einen billigen Prozess "auditieren" lassen. Bekäme man so zum Beispiel durch eine Auskunftei eine hohe finanzielle Bonität zertifiziert, könnte man umgekehrt auf das Signal teurer Kleidung oder Uhren verzichten. Und drittens weist Bostrom darauf hin, dass nicht jede protzige Schau
die Lebensqualität von Individuen verbessert. So gäbe es Indianer, die als Beweis ihrer Stärke große Teil ihrer Ernte vernichteten. Fazit: vieles was wir als wertvoll empfinden ist evolutionär nützliche Schau. Dass eine solche Schau aber auch in Zukunft nötig ist, und damit schöne Dinge des Lebens ermöglicht, ist nicht selbstverständlich.
Bostroms Gedanke 5: zwei Formen der Verdrängung
Zukünftige Lebensformen auf der Erde könnten den Menschen und seinen Lebensstil in zwei Weisen bedrohen: a) der Mensch wird völlig verdrängt und weg-evoluiert (outcompeted) oder b) er wird zu einer Art zweitranginger Randexistenz gedrängt. Dort kann er zwar zahlenmäßig ansehnlich weiter existieren, aber alle wichtigen Ressourcen (Licht, Platz, Materie) werde von der höheren Lebensform beansprucht oder kontrolliert. Um in den Worten des Mahners Kazem Sadegh-Sadeh zu sprechen[11]: womöglich bleibt dem Menschen am Ende nur eine Rolle als kläglicher Cybersaprobiont ↗
Bostroms Gedankenschritt 6: Können wir unsere Evolution kontrollieren
Bostrom hat in den Schritten 1 bis 5 düstere Szenarien einer möglichen Zukunft gezeichnet. Nun stellt er im Punkt 6 die Frage, wie man sich dazu verhalten könnte. Bloße passive oder sogar bejahende Akzeptanz könnte von der Geisteshaltung gefördert werden, dass sich das Stärkere halt durchsetzen müssen und das dann auch gut so sei. Die Macht der Stärke (might is right) lehnt er aber als unbefriedigend ab. Das wird in dem Gedankenspiel deutlich, dass man auch kaum einen Virus als gut und stark bezeichnen würde, der die ganze Menschheit dahingerafft hat. Diese Haltung - Macht hat Recht - kennzeichnet dem englischen Schriftsteller George Orwell (1903 bis 1950) den faschistischen Geist. Bemerkenswerterweise stellte der russische Informatiker Valentin Turchin die von ihm skizzierten Überwesen als tendenziell faschistisch dar[12]. Und ein anderer Autor zog parallelen zwischen evolutionär sehr fitten Insektenstaaten und dem Faschismus[13]. Bostrom lehnt auch die diese klagende Akzeptanz entstehender neuer Lebensformen ab. Bostrom schlägt einen dritten Weg vor: eine Kontrolle unserer eigenen Evolution. Zwar wäre die Entstehung von neuen Lebensformen, etwa rein computerbasiert, der Pfad, demzufolge die evolutionäre Trägheit (default course) uns treibe würde, es gäbe aber keine prinzipiellen Gründe, die einer aktiven Steuerung der Evolution durch den Menschen entgegen stünden. Es gibt aber nur zwei mögliche Varianten: a) man verhindert die Entstehung evolutionär fitter uns aber unliebsamer Lebensformen oder b) man moduliert die evolutionäre Erfolgslandschaft so, dass die dort fitteren Lebensformen auch die von uns gewollten sind. Diese zwei Varianten betrachtet Bostrom dann in den Schritte 7 und 8.
Bostroms Gedanke 7: Böse Geister nicht erwecken
Eine Variante, für uns Menschen eine lebenswerte Zukunft zu erhalten, sie Bostrom daran, uns nicht zuträgliche Lebensformen gar nicht erst entstehen zu lassen. Solche unerwünschten Lebensformen nennt Bostrom nicht-eudämoistische Agenten. Während es technisch gesehen einfach möglich wäre, eine genetische Veränderung von Menschen oder auch eine Veränderung "hochgeladener Lebensformen" zu verhindern, ist die emergente und unvorhersehbare Entstehung neuer unerwünschter Lebensformen infolge von Lernprozessen oder der Rekombination bestehender Komponenten schwer verhinderbar. Wöllte man dies erreichen, müsste man die Gesellschaft sozusagen in einem bestimmten Zustand einfrieren, Bostrom nennt das treffend fossilieren. Diese Weg empfiehlt Bostrom nicht.
Bostroms Gedanke 8: Schöne Lebensformen nützlich halten
Der von Bostrom empfohlene Weg besteht darin, dass man die Erfolgslandschaft der gesellschaflichen Selektionsprozesse so gestaltet, dass von uns als lebenswert empfundene Menschentypen (eudämonistische Agenten) einen evolutionären Vorteil beibehalten. Blickt man in die Geschichte, so findet man durchaus Beispiele, wo die Erhaltung von Lebensqualität politisch gestaltet wurde. Solche Maßnahmen haben sich aber immer gegen das Argument bedrohter Effizienz verteidigen müssen. Ein guten Einstieg in dieses Thema bietet die Antagonie zwischen dem Wohlfahrtsstaat und der Leistungsgesellschaft.
Bostroms Gedanke 9: Maßnahmen zur Steuerung der Evolution
Bostrom schlägt nun konkrete Maßnahmen vor, wie man die Erfolgslandschaft einer zukünftigen Gesellschaft so steuern könnte, dass lebdenswerte ökologische Nischen darin erhalten bleiben und gleichzeitig nicht-eudämonistische Agen uns als nützliche Diener erhalten bleiben.
- Höhere Besteuerung nicht-eudämonistischer Agenten (künstliche Intelligenzen, Roboter)
- Niedrige Besteuerung eudämonistischer Agenten und Nischen (Kultur?)
- Unterbindung nicht-eudämonistischer Lobby-Arbeit (influencing governments)
Bostroms Gedanke 10: Gedankankenexkurs (detour)
Hier entwickelt Bostrom ein sehr schwankendes Konstrukt für Hoffnung: es könnte einen zukünftigen Krieg zwischen eudämonistischen und nicht eudämonistischen Lebensformen geben. Eudämonistisch sind die Formen, die für uns das Leben angenehm machen. Bostrom sieht einen solchen Krieg aber nicht zwischen zwei festen Kriegsparteien sondern als einen Krieg vieler unübersichtlicher Parteien, auf die sich eudämonostische und nicht eudämoistische Wesenszüge unübersichtlich verteilen. Nun könnten eudämonistische Agenten derart eine Allianz mit dem Sieger geschmiedet haben, dass die Eudämonisten ihre Interessen bis in alle Ewigkeit (in perpetuo) gewahrt erhalten. Bostrom spekuliert hier über zuverlässige Techniker von "Geist-Auslesen" (mind scanning, controlling motivation). Bost hält diese Strategie selbst aber für nicht besonders zuverlässig (risky).
Bostroms Gedanke 11: Die Weltregierung
Die einzig zuverlässige Strategie zur Kontrolle unserer eigenen Evolution ist die Errichtung einer Art Weltregierung. Diese nennt Bostrom einen Singleton. Um stabil zu sein, darf dieser Singleton keine externen Wettbewerber (competitors) haben und auch die inneren Prozesse müssen sehr stabil kontrolliert bleiben. Mögliche Singletons könnten sein: eine demokratische Weltregierung, eine wohlwollende superintelligente Weltbeherrschungsmaschine, eine Diktatur, eine stabile Allianz führender Mächte oder auch ein diffusiver Moralkodex. Bostrom warnt davor, die Weltgeschichte in zu kleinen Zeitabschnitten zu betrachten. Über ausreichend lange Zeiträume betrachtet könne man einen Trend hin zu mehr gegenseitiger Abstimmung und politischer Integration feststellen.
Bostroms Gedanke 12: Schluss
Bostrom sieht die Gefahr, dass eine ungesteuerte Evolution zum Verschwinden uns angenehmer Lebensformen oder Lebensumstände führen wird. Evolutionäre Prozesse begünstigen das "Fittere" und das "Fittere" ist nicht zuverlässig auch das Gewünschte. Um entsprechende Szenarien abzuwenden führe kein Weg an einer Art Weltregierung (Singleton) vorbei. Diese Weltregierung muss die Erfolgsfaktoren so gestalten, dass für uns wünschenswerte Lebensweisen einen selektiven Vorteil haben.
Der größere Rahmen: der Weltprozess
Bostroms Idee, eine drohende technologische Singularität durch eine Beschränkung von Wettbewerb abzuwenden, wirft die Frage auf, ob wir das überhaupt sollen. Durch Bostrom Artikel zieht sich wie ein feiner Nebelhauch eine unterschwellige Skepis, ob das überhaupt gelingen kann. Vielleicht ist es gar nicht gewollt. Vielleicht gibt es eine in die Welt eingeprägte Tendenz, sich hin zu höherer Komplexität zu entwickeln. Und vielleicht soll diese Tendenz keine Rücksicht nehmen auf schwächere Elemente, nur vorübergehend nützliche Zwischenstufen? Der Gedanke, dass die gesamte Welt einem vorab in ihr angelegten Prozess folgt ist behandelt im Artikel Weltprozess ↗
Fußnoten
- [1] Nick Bostrom: The Future of Human Evolution. In: Death and Anti-Death: Two Hundred Years After Kant, Fifty Years After Turing. Herausgeber: Charles Tandy (Ria University Press: Palo Alto , California , 2004): pp. 339-371.
- [2] Nick Bostrom: Die Zukunft der Menschheit. Suhrkamp Verlag. 2018. ISBN: 978-3518298459.
- [3] Stanislaw Lem: Der Unbesiegbare. In diesem Roman entwickelt sich aus zivilisatorischem Schrott eine technische Schwarmintelligenz, die letztendlich ihre biologische Elternzivilisation auslöscht.
- [4] Olaf Stapledon: Nebula Maker. In diesem Roman sind planetare Nebel und ganze Sonnen als eigene Lebewesen mit evolutiver Vorgeschichte beschrieben. Siehe auch Nebula Maker ↗
- [5] Zoltan Istvan: The Transhumanist Wager. Futurity Imagine Media LLC; 1. Ausgabe 2013. ISBN: 978-0988616110. Siehe dazu Jethros Window ↗
- [6] Wang Y. The Performance of Artificial Intelligence Translation App in Japanese Language Education Guided by Deep Learning. In: Comput Intell Neurosci. 2022 May 18. doi: 10.1155/2022/7962722. PMID: 35634061; PMCID: PMC9132637.
- [7] Arash Heydarian Pashakhanlou: AI, autonomy, and airpower: the end of pilots? In: Defence Studies. Volume 19, 2019, Issue 4. https://doi.org/10.1080/14702436.2019.1676156
- [8] de Mello FL, de Souza SA. Psychotherapy and Artificial Intelligence: A Proposal for Alignment. Front Psychol. 2019 Feb 11;10:263. doi: 10.3389/fpsyg.2019.00263. PMID: 30804863; PMCID: PMC6378280.
- [9] Voltaire: Candide oder der Optimismus. 1759. Französischer Originaltitel: Candide ou l’optimisme. Siehe auch Panglossianismus ↗
- [10] Stanislaw Lem: Waffensysteme der Zukunft. Suhrkamp Verlag. Originaltitel: Weapon Systems of the 21st Century or The Upside Down Evolution. Suhrkamp Taschenbuch 998. Erste Auflage 1983. Seite 74.
- [11] Kazem Sadegh-Zadeh: Als der Mensch das Denken verlernte: Die Entstehung der Machina sapiens. Burgverlag, Tecklenburg. 2000. ISBN: 3-922506-99-2. Seite 150. Siehe auch Cybersaprobiont ↗
- [12] Valentin Turchin: The Phenomenon of Science. New York: Columbia University Press. ISBN 978-0-231-03983-3. Erstmals veröffentlicht im Jahr 1977. Hier vor allem das Kapitel: The Super-Being Super-Wesen ↗
- [13] Caryl P. Haskins: Of Ants and Men. Prentice Hall, 1939. Ameisenstaaten als Vorbild faschistoider Menschengesellschaften Of Ants and Men (Caryl P. Haskins) ↗
- [14] Im Bezug auf eine mögliche künstliche Superintelligenz fragt Bostrom: "Will it be possible to construct a seed AI or otherwise to engineer initial conditions so as to make an intelligence explosion survivable? How could one achieve a controlled detonation?" In: Nick Bostrom: Superintelligence: Paths, Dangers, Strategies. Oxford University Press. 2014. 328 Seiten. ISBN: 978-0199678112. Siehe auch künstliche Superintelligenz ↗
