Ein theoretisches Konzept aus der Informationstheorie, das in der KI zum Verständnis von Deep-Learning-Modellen herangezogen wird. Es postuliert, dass effektive Modelle lernen, Eingabedaten so zu komprimieren, dass irrelevante Informationen verworfen und nur die für die Aufgabe wesentlichen Informationen beibehalten werden.