Pálmai József a hatvanas évek elejétől tagja volt az ETO NB I-es kézilabdacsapatának, szerepelt az akkori idők legnagyobb sikerét jelentő Magyar Népköztársasági Kupa-győztes csapatban 1973-ban. Nem sokkal később befejezte a játékos-pályafutását és sportvezetőként dolgozott tovább.
Hosszú időn át volt az ETO elnökhelyettese, részese volt a nyolcvanas évek legendás kézilabdás sikereinek (bajnoki címek, magyar kupagyőzelmek és az IHF-kupa megnyerése). Később az ETO, majd az NB I-es labdarúgó klub ügyvezető elnökeként dolgozott.