Mucha József a Tolnai megyei Mázán született, és itt is kezdett el futballozni, majd első felnőtt csapata a Dorogi Bányász volt, ahonnan az ifjúsági válogatottba is bekerült – emlékezik pályafutására az mlsz.hu oldal.
A tehetséges középpályást 1970-ben a Ferencváros szerződtette, Mucha 11 éven keresztül erősítette a zöld-fehéreket, 252 bajnoki mérkőzésen 35 gólt szerzett az együttesben. A Ferencvárossal kétszeres bajnok, négyszeres kupagyőztes, UEFA-kupa bronzérmes, KEK-ezüstérmes, a klub 1981-ben örökös bajnokává avatta.
A válogatottban összesen hatszor lépett pályára, 1974-75-ben a Ferencváros tagjaként, 1981-ben pedig már utolsó klubja, a belga KSV Waregem labdarúgójaként.
Egy 1972-es UEFA Kupa-elődöntő, a Wolverhamtpon ellen (1-2):
Profi karrierje befejezése után a Ferencvárosnál edzősködött, 1996-ban és 1999-ben az első csapatot is irányította. Edzőként megfordult a Tiszaújvárosnál, illetve Siófokon is, majd irányította a Rubeola Csömör futsalcsapatát, illetve a 4+1-es válogatottat is. Jelenleg a Pécsi MFC alkalmazásában áll, a csapat pályaedzője.
Mucha Józsefet 60. születésnapja alkalmából a Magyar Labdarúgó Szövetség is köszöntötte.