Apja cipészmester volt, anyját Klein Reginának hívták.
Négy polgárit végzett, majd kitanulta a szűcs szakmát. 1928-ban, segédlevele megszerzésekor belépett a bőrösök szakszervezetbe, 1930-ban pedig a Magyarországi Szociáldemokrata Pártba. 1932-ben kapcsolódott be az illegális kommunista mozgalomba. 1934-től a Kommunista Ifjúmunkások Magyarországi Szövetsége rákospalotai titkára volt, s tagja lett az MSZDP Országos Ifjúsági Bizottságának is. 1936-ban kommunista tevékenység miatt kizárták az MSZDP-ből, ugyanabban az évben a kommunista párttal is megszakadt a kapcsolata. 1937-től önálló szűcsmesterként dolgozott. 1942-ben behívták munkaszolgálatra. 1944-ben megszökött alakulatától, s a háború végéig bujkált. A nyilas uralom idején részt vett az újpesti ellenállási mozgalomban.
1945-től a Magyar Kommunista Párt funkcionáriusa, 1946-tól rákospalotai szervezetének titkára volt. Pártja jelöltjeként 1945-ben tagja lett a Rákospalotai Nemzeti Bizottságnak, majd a helyi képviselő-testületnek, 1947–1949 között utóbbi elnökeként működött. 1948. júliusban az SZDP-nek az MKP-ba olvasztásával létrejött Magyar Dolgozók Pártja Központi Vezetősége Párt- és Tömegszervezetek Osztályára helyezték instruktornak. 1949–1950-ben az MDP egyéves pártiskoláján tanult, majd főinstruktorként visszakerült korábbi osztályára. 1951. március és 1954. május között az MDP KV póttagja volt. 1954. júliusban kinevezték a KV Pártgazdasági Osztálya helyettes vezetőjévé. 1956-ra elvégezte a Marx Károly Közgazdaság-tudományi Egyetemet.
Az 1956. évi forradalom és szabadságharc leverése után csatlakozott a Kádár-féle vezetéshez. Tagja lett a forradalom idején széthullott MDP utódaként megalakított Magyar Szocialista Munkáspárt Ideiglenes Központi Bizottságának (1957. júniustól Központi Bizottság), s a Pártgazdasági Osztály vezetőjeként bekerült a pártszervezést irányító Szervező Bizottságba. 1957. február 26-án a Szervező Bizottságot a Titkárság felállítása miatt megszüntették, Sándor ugyanazon a napon Németi Józseftől átvette a Párt- és Tömegszervezetek Osztálya vezetését. 1957. decembertől a KB mellett működő Pártépítési Elméleti Munkaközösség titkára, 1960. februártól 1966-ig elnöke, 1959. február–1960. január között a KB Mezőgazdasági Bizottsága tagja volt. 1958. novemberben országgyűlési képviselővé választották, mandátumát élete végéig megtartotta.
1963. decembertől az MSZMP KB Irodáját vezette. Aczél György és Biszku Béla mellett az 1970-es évek végéig Kádár legszűkebb informális köréhez tartozott. Bizalmi helyzeténél fogva pozíciójánál lényegesen nagyobb befolyással rendelkezett a pártban, amellyel rendszeresen élt is. A pártvezetésen belül – Aczéllal együtt – a Rákosi-kérdés felelősének számított. 1962. augusztusban Krasznodarban közölte a bukott diktátorral az MSZMP-ből való kizárásának tényét, 1967-től tárgyalt vele hazatérésének lehetőségéről, 1971-ben a temetését is ő intézte.
1977. áprilisban nyugállományba vonult, az MSZMP KB-ból a XII. pártkongresszuson (1980. március 25–28.) maradt ki. Nyugdíjasként az 1980-as évek elején a Minisztertanács Kivételes Ellátások Bizottsága titkáraként tevékenykedett.