John Sillett játékosként 1954 és 1968 között a Chelsea, a Coventry és a Plymouth Argyle alkalmazásában állt, előbbi klubbal 1955-ben élvonalbeli bajnokságot nyert.
Edzőként 1974-től elsőként a Hereford Unitednél dolgozott, majd 1986–1990 között a Coventry Cityt irányította, amellyel legnagyobb sikereként az FA-kupa 1986–1987-es kiírásának döntőjében hosszabbítás után 3–2-re győzte le a Tottenham Hotspurt a Wembley Stadionban.