À cause de ses extravagances, le musicien Dewey Finn est expulsé de son groupe de rock. Pour compliquer les choses, son colocataire, l'instituteur Ned, lui réclame dans les plus brefs délais le montant de ses loyers impayés.

Or, peu après, Rosalie Mullins, la directrice d'une école élémentaire privée de Manhattan, appelle chez Ned pour lui proposer un travail de suppléance. Mais comme l'instituteur est absent, Dewey se fait passer pour lui au téléphone et décroche le poste. Le rocker se fait vite remarquer en raison de ses méthodes d'enseignement peu orthodoxes. Par ailleurs, en réalisant que ses élèves de dix ans sont doués pour la musique classique, il entreprend de les convertir au rock puis forme avec eux un nouveau groupe.