»Meiner Meinung nach sind sowohl das ethische Problem als auch das Zielabstimmungsproblem entscheidend und müssen gelöst werden, bevor die erste Superintelligenz überhaupt entwickelt wird. Einerseits wäre das Aufschieben der Arbeit an ethischen Fragen bis nach der Konstruktion einer zielabgestimmten Superintelligenz unverantwortlich […]. Andererseits werden wir den Luxus, darüber zu streiten, welche Ziele wir auswählen sollten, nur dann haben, wenn wir zuvor das Zielabstimmungsproblem lösen.«