Depuis son match contre le champion soviétique Drago, Rocky Balboa éprouve de graves troubles de santé qui l'obligent à prendre une retraite anticipée. Mais tout n'est pas si simple : trompé par un comptable escroc, son beau-frère Paulie a dilapidé le pécule familial si durement gagné. Liquidant tous ses biens, Rocky retourne à Philadelphie, la ville de ses débuts.


Il rouvre le gymnase abandonné que lui a légué son ami et mentor Mickey tandis qu'Adrian, sa femme, reprend son ancien emploi de vendeuse à mi-temps. George Washington Duke, organisateur véreux et sans scrupules voudrait opposer Rocky à son poulain, Union Cane. Sachant les risques que suppose un pareil combat. Rocky préfère se consacrer à la formation et l'entraînement d'un jeune boxeur plein de promesses, Tommy Gunn. Ce faisant, il néglige son propre fils, Rocky Junior, qui devra se débrouiller seul pour s'adapter à son nouvel établissement scolaire et se faire respecter par les voyous du quartier. Pendant ce temps, Tommy remporte victoire sur victoire et bat Union Cane à plate couture. Trahissant la confiance de Rocky, il signe un contrat avec Duke qui espère toujours faire remonter "l'étalon italien " sur le ring Rocky se battra, en effet mais dans la rue. Après avoir infligé une sévère correction à Tommy, il assommera Duke d'un coup de poing, sous les applaudissements et les vivats de sa famille et de ses amis.