SUCHE

KI-Modell läuft mit 87,5 Prozent weniger Experten

Forscher haben ein Mixture-of-Experts-Modell so trainiert, dass es drei Viertel seiner Experten verliert — und trotzdem fast volle Leistung bringt. Das Ding heißt EMO. Und es ...

EMO: Pretraining mixture of experts for emergent modularity