Gesamtnote · von 5,0
Superintelligenz
Szenarien einer kommenden Revolution
von Nick Bostrom
Das Buch, das die ernsthafte Debatte über die Risiken einer übermenschlichen KI begründet hat.
- Originaltitel
- Superintelligence: Paths, Dangers, Strategies
- Erschienen
- 2014
- Verlag
- Oxford University Press
- Umfang
- 352 Seiten
- Originalsprache
- Englisch
- Genre
- Sachbuch
- Lesezeit Rezension
- 8 Min.
„Vor der Aussicht auf eine Intelligenzexplosion sind wir Menschen wie kleine Kinder, die mit einer Bombe spielen.“
— Nick Bostrom, Superintelligenz
Worum es geht
Der Oxford-Philosoph Nick Bostrom untersucht, was passieren könnte, wenn Maschinen die menschliche Intelligenz nicht nur erreichen, sondern weit übertreffen. Superintelligenz ist das Buch, das diese Frage von der Science-Fiction in den seriösen Diskurs geholt hat.
Das Kontrollproblem
Bostroms zentrale Sorge: Eine superintelligente KI könnte ihre Ziele mit einer Effizienz verfolgen, die für Menschen katastrophal endet – selbst bei scheinbar harmlosen Vorgaben. Wie man solchen Systemen menschliche Werte mitgibt, ist das „Kontroll-" oder „Alignment-Problem".
Wirtschaft der Intelligenzexplosion
Auch ökonomisch denkt Bostrom radikal: Eine KI, die sich selbst verbessert, könnte Wachstum und Macht in nie gekanntem Tempo konzentrieren. Wer die erste Superintelligenz kontrolliert, hätte einen entscheidenden Vorsprung.
Einordnung
Superintelligenz ist fordernd und nicht das zugänglichste Buch dieser Liste – aber ohne es lässt sich die heutige Sicherheits- und Machtdebatte um KI kaum verstehen.
Was überzeugt
- Begründet das gesamte Feld der KI-Sicherheit
- Außergewöhnlich gründlich und durchdacht
- Prägt bis heute die Debatte (Alignment, Kontrollproblem)
Was stört
- Sprachlich anspruchsvoll und stellenweise trocken
- Sehr abstrakt, wenig konkrete Wirtschaftsbezüge
- Manche Szenarien wirken hypothetisch
Für wen geeignet
Für Leserinnen und Leser, die bereit sind, sich tief in die langfristigen Risiken und die Strategiefrage der KI einzuarbeiten.
Fazit
Anspruchsvoll, aber grundlegend: Bostrom hat die Sprache geprägt, in der heute über KI-Risiken gesprochen wird. Kein leichtes, aber ein folgenreiches Buch.
Zur Person
Nick Bostrom ist ein schwedischer Philosoph und Zukunftsforscher. Mit *Superintelligenz* prägte er die moderne Debatte über künstliche Intelligenz, existenzielle Risiken und die Frage, was passieren könnte, wenn Maschinen die menschliche Intelligenz übertreffen.
Weitere Werke
