»Für die langfristige kosmische Zukunft des Lebens […] wird das Verständnis für den Unterschied zwischen Bewusstsein und Unbewusstem ausschlaggebend sein. Falls Technik es dem intelligenten Leben ermöglicht, für die nächsten Jahrmilliarden überall in unserem Universum zu gedeihen, müssen wir sicher sein können, dass dieses Leben auch ein Bewusstsein hat und imstande ist, zu würdigen, was geschieht.«

»Meiner Meinung nach sind sowohl das ethische Problem als auch das Zielabstimmungsproblem entscheidend und müssen gelöst werden, bevor die erste Superintelligenz überhaupt entwickelt wird. Einerseits wäre das Aufschieben der Arbeit an ethischen Fragen bis nach der Konstruktion einer zielabgestimmten Superintelligenz unverantwortlich […]. Andererseits werden wir den Luxus, darüber zu streiten, welche Ziele wir auswählen sollten, nur dann haben, wenn wir zuvor das Zielabstimmungsproblem lösen.«