A támadó 1957-ben írta alá első profi szerződését a Kilmarnock együttesénél, de csak két szezont húzott le a Killie-nél. Igazán meghatározó játékossá 1962-ben vált, amikor a Motherwell leigazolta.
A csapatnál három idényt töltött, és mindhárom évében a csapat házi gólkirálya volt. Összesen 81 meccset vívott a piros-sárgák mezében, és 51 gólig jutott. 1965-ben jött a nagy áttörés, 22 ezer fontért (közel 9 millió forint) ugyanis magához csábította Joe McBride-ot a Celtic.
A Keltáknál Alex Fergusonnal együtt – akit ma a Manchester United trénereként ismerünk – alkottak félelmetes csatárpárost, így nem meglepő, hogy vezérletükkel 1967-ben a BEK döntőjében 2-1-re megverték az Internazionalét. Sajnos egy sérülés miatt McBride nem léphetett pályára a fináléban, de a sorozatban ő vitte a hátán a csapatot, és a bajnokságban is gólkirályi címet ünnepelhetett, 31 találattal.
1968-ban azonban elhagyta a Celticet a Hibernian kedvéért, ahol három év alatt 44-szer ünnepelhetett gólt. Pályafutását a Clyde FC-ben fejezte be.
Fia is profi labdarúgó lett, az ifjabb Joe McBride apja örökébe lépve a HIbernianban élte karrierje fénypontját. Visszavonulása után edzősködni kezdett, most a Cardiff City trénere.
Joe McBride agyvérzésben hunyt el 74 éves korában.
