Apja, Fock Jenő géplakatos a Magyarországi Szociáldemokrata Párt tagja volt, a kommün alatti szerepvállalásáért nyolc hónap fogságot szenvedett, 1940-ben pedig 14 hónap börtönre ítélték. Anyja, Kohn Margit vasalónőként dolgozott, később háztartásbeli lett.
A négy elemi és a négy polgári elvégzését követően a Marx és Mérei Tudományos Műszerek Gyárába került műszerésztanulónak, 1933-as felszabadulása után ugyanott, majd 1936-tól a Ganz Vagongyárban dolgozott szakmájában. 1931-ben csatlakozott a szakszervezeti ifjúsági mozgalomhoz, 1932-től részt vett az illegális Kommunista Ifjúmunkások Magyarországi Szövetsége és a Vörös Segély tevékenységében. Ugyanabban az évben belépett az MSZDP-be, 1933-ban a Magyarországi Vas- és Fémmunkások Központi Szövetségébe, tagja lett a párt Országos Ifjúsági Bizottságának, amely az 1930-as évek második felétől kommunista befolyás alatt állt. 1939-ben behívták katonai szolgálatra. 1940 tavaszán a nagy letartóztatási hullám őt is elérte, s az SZDP-n belüli kommunista szervezkedésért három év fegyházat kapott, amelyet különböző katonai büntetőintézetekben töltött le. 1944 októberében megszökött alakulatától, s a szovjet csapatok megérkezéséig Pesten bujkált.
1945 elején belépett a Magyar Kommunista Pártba (párttagságát 1932-től ismerték el), Budapest X. kerületében üzemszervező, majd kerületi párttitkár, 1946-ban a nagy-budapesti pártbizottság szervezési osztályának helyettes vezetője lett, 1945. április–november között tagja volt az Ideiglenes Nemzetgyűlésnek is. 1947-ben hat hónapos pártiskolát végzett, az 1947. augusztusi országgyűlési választások idején az MKP Központi Vezetősége Szervezési Osztályán dolgozott, onnan a Nehézipari Központba helyezték, ahol előbb a munkaerő- gazdálkodási osztály, majd a munkaügyi főosztály, később a Nehézipari Igazgatóság vezetője volt. 1949. júniusban az akkor megalakított Nehézipari Minisztériumba került a Gépipari Főosztály vezetőjének. 1950. májusban Gerő Ernő és Friss István a minisztérium államtitkárának javasolták, de a Magyar Dolgozók Pártja Titkársága 1950. június 7-i ülésén nem járult hozzá „beállításához”. 1950. decembertől a Nehézipari Minisztérium kettéválasztásával létrehozott Kohó- és Gépipari Minisztériumban továbbra is a Gépipari Főosztályt vezette. 1951. januárban a miniszter hadiipari, júliusban gépipari helyettesévé nevezték ki. 1954-re elvégezte a káderképzőnek vagy Vörös Akadémiának is nevezett Gazdasági és Műszaki Akadémiát. 1954. októberben a berlini magyar kereskedelmi kirendeltség élére állították. 1955. júniusban a moszkvai pártfőiskolára küldött Gyenes András helyett megtették a Szakszervezetek Országos Tanácsa egyik titkárának. 1956. júliusban az MDP Központi Vezetősége póttagjává választották.
Az 1956-os forradalom és szabadságharc elfojtása után csatlakozott a Kádár-féle vezetéshez, tagja lett a széthullott MDP utódaként megalakított Magyar Szocialista Munkáspárt Ideiglenes Központi Bizottságának, 1957. februárban a KB akkor felállított Titkárságának, az 1957. júniusi pártértekezleten pedig bekerült a Politikai Bizottságba. 1958 és 1985 között egy ciklus (1967–1971) kihagyásával országgyűlési képviselő is volt. Gazdaságpolitikai KB-titkárként ő felügyelte a KB államgazdasági, ipari és közlekedési, valamint mezőgazdasági osztályát, illetve a Borsod-Abaúj-Zemplén, a Fejér, a Győr-Sopron, a Komárom és a Veszprém megyei pártbizottságot. Ezen felül ő vezette a gazdasági élet „operatív” irányítására 1957/1958 fordulóján felállított úgynevezett hármas bizottságot (a másik két tag Apró Antal és Friss István lett), amely 1960. januárban Államgazdasági Bizottság néven szerveződött újjá, valamint az 1957. októberben életre hívott Közgazdasági Elméleti Munkaközösséget. 1959. decemberben a Mezőgazdasági Osztály felügyeletét Fehér Lajosnak adta át.
1961. szeptemberben a Minisztertanács elnökhelyettesévé nevezték ki (KB-titkári posztjával együtt megvált bizottsági és munkaközösségi elnöki tisztétől is, de tagságát mindkét testületben megtartotta). Nyers Rezső gazdaságpolitikai KB-titkár és az agrárlobbi fejének számító Fehér Lajos miniszterelnök-helyettes mellett a kormányzati szinten a gazdasági tárcákat felügyelő Fock irányította a KB által 1965. novemberben, illetve 1966. májusban jóváhagyott gazdasági reformtervezet kidolgozását, amelynek alapgondolata a piac ösztönző erejének érvényesítése volt a tervgazdaság, a teljes foglalkoztatottság és a szocialista elosztás elvének fenntartása mellett.
1967. április 14-én Kállai Gyula utódaként a Minisztertanács elnöke lett, így nevéhez fűződik az új gazdasági mechanizmusnak elnevezett reformcsomag 1968. januári bevezetése és érvényre juttatása. 1968. július 13-án Kádár János mellett ő is részt vett az Alexander Dubček első titkárral és Oldřich Černík miniszterelnökkel folytatott komáromi tárgyaláson, amelyen a csehszlovák vezetőket sikertelenül kísérelték meg kompromisszumra bírni, s ezzel elkerülni a „prágai tavasz” 1968. augusztusi katonai erővel történt elfojtását, amely az épphogy
megkezdődött magyar reformok sorsát is előrevetítette. 1971-ben a magyar kormány még tervezetet nyújtott be a KGST-n belüli együttműködés piacgazdasági alapokra helyezéséről, amelyet azonban lesöpörtek az asztalról. A hazai keményvonalasok (Komócsin Zoltán, Biszku Béla, Gáspár Sándor) által is szorongatott Kádár 1972-ben Brezsnyev szovjet pártfőtitkár szigorú intelmére a reformok leállítása mellett döntött. Fock – ellehetetlenülését érzékelve – már 1973 októberében felajánlotta távozását a kormány éléről, amelyet Kádár taktikai okokból halogatott. Végül Nyers és Fehér 1974. márciusi menesztése után, 1975. május 15-én mentették fel miniszterelnöki tiszte alól, és nyugdíjazták, de még 1980. márciusig a PB tagja maradhatott, KB-tagságát pedig egészen az MSZMP 1989. októberi megszűnéséig megőrizte. 1980–1990 között a Műszaki és Természettudományi Egyesületek Szövetsége elnökeként tevékenykedett.