Forsvarskrumtap på EFB's Guldhold og landsholdet indtil han i 1965 skiftede til Skotsk fodbold.
John Madsen var centerhalf, og i sandhed en helt usædvanlig god centerhalf. Han var både stor og stærk og meget atletisk, og i kraft af sin store springkraft leverede han et aldeles suverænt hovedspil i luften.
John vandt DM med Esbjerg hele 3 gange (1961, 1962 og 1963) og pokalturneringen i 1964. Han havde også sin store andel i at Esbjerg kunne vinde DM i 1965, hvor han dog ikke var med i de sidste 10 kampe. John var ingeniør, og en stor fodboldspiller.
John Madsen sluttede sin fodboldkarriere med nogle år i det skotske, hvor han fra slutningen af 1965 spillede for FC Morton Greenock, indtil han i 1968 drog videre for at spille et par sæsoner i Hibernian FC i Edinburgh. Da John ankom til skotsk fodbold, fik han hurtigt "Mageløse Madsen" som varemærke pga. sine evner til at holde modstanderne nede.
i mellemtiden havde John Madsen også opnået en stor karriere i landsholdssammenhæng. I løbet af årene 1957-59 havde der været bud efter ham til 6 U-landskampe og en enkelt kamp på B-landsholdet mod Sverige i 1961. Et par måneder senere debuterede John Madsen på det finere A-landshold.
Det blev indledningen til et par flotte og bemærkelsesværdige serier af A-landskampe for John, der spillede hele 13 kampe i træk som fast centerhalf i årene 1961-62. Efter en landsholdspause de næste 5 landskampe, som John i 1963 simpelthen valgte at melde fra til pga. manglende tid og lyst (!), blev han dog senere på året overtalt til et comeback, og tørnede derefter ud i årets sidste 7 landskampe.
I John Madsen havde Esbjerg måske nok klubbens allerbedste forsvarsspiller nogensinde, og der kan næppe herske tvivl om at John kunne have opnået langt flere end de 20 A-landskampe.