Grokking (machine learning)Grokking
Phase transition in machine learning
In machine learning, grokking, or delayed generalization, is a phenomenon observed in some settings where a model abruptly transitions from overfitting to generalizing, after many training iterations with little or no improvement on the…En apprentissage automatique, le grokking est un phénomène au cours duquel après une première phase de surapprentissage massif où le modèle mémorise simplement son ensemble de données d'entrainement, ce dernier trouve soudainement, après…
