Die Herausforderung sicherzustellen, dass hochentwickelte KI-Systeme (insbesondere Superintelligenzen) auch dann im Sinne menschlicher Werte und Absichten handeln, wenn ihre Intelligenz die menschliche übersteigt.