Sloan játékosként első idényét a Baltimore Bulletsnél töltötte, majd 1966 és 1976 között a Chicago Bullsnál kosarazott. Ez idő alatt kétszer választották be az All-Star-csapatba.
Visszavonulása után edzőnek állt, lehúzott négy évet a Bullsnál, majd 1988 és 2011 között a Utah Jazznél tevékenykedett, mellyel kétszer is bejutott az NBA nagydöntőjébe, ám az együttes mind a két alkalommal alulmaradt a Michael Jordan vezette Chicago ellen.
Jerry Sloannál 2016-ban diagnisztizáltak Parkinson-kórt és úgynevezettLewy body idegbetegséget– mint a Jazz közleményében olvasható, a kiváló szakember ezek szövődményében hunyt el pénteken.
Jerry Sloan 78 éves volt.