Inhaltsverzeichnis
Wer ist Roman V. Yampolskiy?
Yampolskiy ist kein Science-Fiction-Autor. Er ist Professor für Informatik an der University of Louisville und Gründer des dortigen Cyber Security Lab. Mit über 150 wissenschaftlichen Publikationen gehört er zu den meistzitierten Forschern im Bereich KI-Sicherheit weltweit. Er hat den Begriff «AI Safety» in einer Publikation von 2011 mitgeprägt und warnt seit Jahren vor den Risiken unkontrollierter künstlicher Intelligenz.
Sein Kernargument: Superintelligente KI-Systeme lassen sich langfristig nicht kontrollieren. Nicht aus Nachlässigkeit, sondern weil es mathematisch-logische Grenzen gibt. Dieses Argument hat er in seinem Buch «AI: Unexplainable, Unpredictable, Uncontrollable» ausführlich dargelegt.
Sich vorzustellen, dass Menschen superintelligente KI kontrollieren können, ist etwa so realistisch, wie wenn eine Ameise glaubt, den Ausgang eines NFL-Spiels beeinflussen zu können.
Roman V. Yampolskiy, University of Louisville
Die Simulation hacken: Worum geht es?
Die Simulationshypothese ist keine neue Idee. Platon beschrieb sie als Höhlengleichnis, der Philosoph Nick Bostrom formalisierte sie 2003 in einem viel beachteten Paper. Die Grundidee: Wenn eine Zivilisation technologisch weit genug fortschreitet, wird sie irgendwann sogenannte «Ancestor Simulations» betreiben. Und wenn das möglich ist, leben wir statistisch gesehen mit höchster Wahrscheinlichkeit in einer solchen Simulation.
Yampolskiy dreht die Frage um. Ihn interessiert nicht, ob wir in einer Simulation leben. Sondern: Wenn ja, können wir sie hacken? Er behandelt das als reine Informatik-Frage. Können intelligente Agenten, die in einer virtuellen Umgebung platziert werden, einen Weg finden, aus ihr auszubrechen?