Inferential Scalability (Inferenzskalierbarkeit)
Die Fähigkeit eines KI-Modells oder Systems, Inferenzanfragen effizient und mit geringer Latenz zu bearbeiten, auch wenn die Anzahl der Anfragen oder die Größe des Modells zunimmt.
Das erste große deutschsprachige KI-Lexikon
Ein Community-Projekt von David Mirga
Die Fähigkeit eines KI-Modells oder Systems, Inferenzanfragen effizient und mit geringer Latenz zu bearbeiten, auch wenn die Anzahl der Anfragen oder die Größe des Modells zunimmt.