Superintelligence

Das menschliche Gehirn verfügt über einige Fähigkeiten, die den Gehirnen anderer Tiere fehlen. Diese besonderen Fähigkeiten verdankt unsere Spezies ihrer dominanten Position. Andere Tiere haben stärkere Muskeln oder schärfere Krallen, aber wir haben cleverere Gehirne. Wenn Maschinengehirne eines Tages die menschlichen Gehirne in der allgemeinen Intelligenz übertreffen, könnte diese neue Superintelligenz sehr mächtig werden. So wie das Schicksal der Gorillas jetzt mehr von uns Menschen abhängt als von den Gorillas selbst, würde auch das Schicksal unserer Spezies von den Handlungen der maschinellen Superintelligenz abhängen. Aber wir haben einen Vorteil: Wir dürfen den ersten Schritt machen. Wird es möglich sein, eine Seed-AI zu konstruieren oder die Anfangsbedingungen so zu gestalten, dass eine Intelligenzexplosion überlebensfähig ist? Wie könnte man eine kontrollierte Detonation erreichen? Um einer Antwort auf diese Frage näher zu kommen, müssen wir uns durch ein Fa.