Paolo Rossi ble i ung alder fanget opp av Juventus sitt speidernettverk. Som vi ser med mange talenter den dag i dag, ble Rossi lånt ut til en Serie B klubb (Como) for å få kamptrening. Og til slutt forsvant han ut av Torino-klubben. Gjennombruddet kom likevel i en annen Serie B klubb, Vicenza, da han nettet 21 ganger i 1976/77 sesongen. Vicenza rykket opp i Serie A, og Rossi puttet hele 24 må for dem i sin første seong i Serie A. Rossi var toppscorer i Serie A i 1978.

Enzo Bearzot tok med seg den unge Perugia spissen til vm i Argentina i 1978, der han gjorde stor suksess med 3 mål og 2 målgivende for Azzurri. Mange mente at dette at dette var en angrepsstjerne som ville lyse i Serie A for lang, lang tid. Men karrieren kunne ha endt allerede i 1979. I en kamp mot Avellino greidde Rossis klubb bare 2-2. I 1980, altså året etter kampen, ble Rossi og noen av lagkameratene beskyldt for å ha fikset kampen. Rossi ble dømt til 3 års utestengelse fra fotball, noe som senere ble redusert til 2 år.
Rossi var 22 år, og fotball framtiden så alt annet enn lys ut, selv om Juventus hadde rekruttert ham inn igjen i sine rekker. Rossi begynte å spille igjen bare få måneder før fotball vm i Spania startet. Til alles overraskelse tok Bearzot igjen med seg Rossi i stallen.

Alle var skeptiske. Og krtitikken økte da Italia bare på håret kom seg gjennom det første gruppespillet. Å si at Rossi, som startet alle de tre innledende kampene, ikke skinte er ingen overdrivelse. Og nå ventet Brasil og Argentina i mellomspillet.

Rossi er et av eksemplene på at fotball virkelig er "a funny old game". En tynn, liten pingle som verken hadde styrke eller noen andre ekstrem ferdigheter. Men han hadde den fantastiske evne til å være der han skulle være inne i boksen til motstanderne. Og når han først scoret kom det gjerne flere. Rossi hadde rett og slett et unikt scoringsinstinkt. Selv om han hadde vært usynlig i store deler av kampen, visste man aldri når han slo til.

Rossi scoret tre mål mot selveste Brasil i mellomrunden. Hat-trick mot et av tidenes beste Brasil lag. De var dømt til å vinne dette vm, men en liten fyr fra Toscana ville det annerledes. Resten er historie. 2 nye mål mot Polen i seminfinalen, og det sjette for turneringen mot Vest-Tyskland i finalen. Rossi var toppscorer med 6 mål. Senere det året ble han årets spiller i Europa. Fugl Fønix hadde virkelig stått opp igjen fra asken.

Vel tilbake i Juventus vant Rossi alt som kan vinnes av en klubbspiller. Coppa Italia i 1983, Scudetto i 1984, Cupvinnercupen i 1984 og Serievinnercupen i 1985.

Karrieren endte i Verona, etter en kort visitt hos Milan.