Hajdú József játékosként kétszer lett magyar bajnok és kétszer Magyar Kupa-győztes a fővárosi zöld-fehérekkel. Az egykori kapus 155 alkalommal lépett pályára a Ferencvárosban, s az 1978–1979-es idényben fair play díjat kapott, 1981-ben és 1999-ben pedig az FTC örökös bajnoka címet is megkapta.
Hajdú József 1964 és 1973 között az MTK-t erősítette – 1967-ben a Fővárosi Autóbusz kapusa volt –, majd az 1973–1974-es évadot a VM Egyetértésnél töltötte, ahonnan egy évvel később távozott a Ferencvároshoz, melynek 1975 és 1983 között volt a játékosa.
Hajdú József 1983-ban Budafokról vonult vissza, majd kapusedzőként tért vissza az FTC-hez, s ezt a munkakört egészen 1996-ig töltötte be. Ő volt a kapusedzője a zöld-fehérek 1995–1996-os idényben Bajnokok Ligájában szereplő csapatának.
Hajdú József fia, Hajdu Attila, tízszeres magyar válogatott kapus, aki 1995 és 1998 között védett a Ferencvárosban.