Apja, Kellermann Sámuel pékként dolgozott, anyját Kepes Saroltának hívták. Két testvére volt. 1945-től használta a Nógrádi nevet.
Szécsényben nevelkedett, az elemi iskola után Losoncon négy gimnáziumi osztályt végzett, majd apja versegi pékségében inaskodott tíz hónapig. 1909-ben rézesztergályos- tanoncnak szegődött a fővárosba, a Gottfried és Társai Csillárgyárba. 1911 őszén tüdőbetegsége miatt visszaköltözött szüleihez Losoncra, és villanyszerelő-tanoncnak állt. 1912 tavaszán felszabadult, elhelyezkedett a losonci mezőgazdasági gépgyárban, magánúton németül és franciául tanult, 1914 nyarán levizsgázott a felsőkereskedelmi iskola első osztályának anyagából. 1915-ben üzemi könyvvitellel megbízott műszaki alkalmazott lett, s mivel hadiüzemben dolgozott, 1918 tavaszáig felmentették a hadkötelezettség alól. 1916-ban munkahelyén szakszervezeti főbizalmivá választották. 1918 áprilisában egyéves önkéntesként bevonult katonának, frontszolgálatot nem teljesített, 1918. novemberben a fegyverszünet megkötése után leszerelték.
1918 végén az Ipari és Közlekedési Tisztségviselők Országos Szövetsége helyi szervezete titkáraként részt vett a kommunista párt losonci csoportjának megalakításában. 1919 februárjában a dél-szlovákiai általános sztrájk egyik szervezőjeként rendőrségi nyilvántartásba vették, ezért Budapestre menekült, ahol belépett a Kommunisták Magyarországi Pártjába. A Tanácsköztársaság idején tisztviselő, majd az Országos Statisztikai Hivatal ellenőre lett. 1919 májusában jelentkezett a Vörös Hadseregbe, szakaszparancsnokként került a frontra. Augusztusban visszament a Csehszlovákiához csatolt Losoncra, ahol előbb rendőri felügyelet alá helyezték, majd kommunista propaganda terjesztése miatt 1921 februárjában letartóztatták, és három hónapra bebörtönözték. 1922-től Prágában a cseh kommunista ifjúsági szövetség egyik titkára volt. A pártvezetés 1923 májusában Berlinbe küldte, ahol egy német kommunista lap szerkesztőségében dolgozott. 1923. októbertől Moszkvában a Kommunista Internacionálé Végrehajtó Bizottsága titkárságának munkatársa volt. 1924. szeptemberben Bécsbe, onnan Bukarestbe utazott, ahol illegális kommunista tevékenység miatt letartóztatták, de sikerült megszöknie. 1925-től a moszkvai pártiskolában tanult. 1928 őszétől Csehszlovákiában egy német nyelvű napilapot szerkesztett.
1931-től a Fasizmus- és Háborúellenes Világbizottság titkáraként Nyugat-Európában, főként Franciaországban élt, a spanyol polgárháború idején a Fegyvert Spanyolországnak elnevezésű mozgalmat szervezte. A második világháború kitörése miatt visszatért a Szovjetunióba, s az 1940 őszén a Moszkvába érkező Rákosi Mátyás kérésére átlépett a magyar pártba. A világháború idején a moszkvai Kossuth Rádió bemondója, szerkesztője, majd a Kijev mellett megszervezett partizániskola magyar tagozatának parancsnoka volt. 1944. októbertől maga is részt vett a Felvidéken zajló partizánharcokban, egysége 1944. december végén csatlakozott a II. Ukrán Front csapataihoz.
1945. január közepén érkezett Debrecenbe, majd Gerő Ernő megbízásából Miskolcra ment, s több megyét átfogó régiótitkárként szervezte a Magyar Kommunista Pártot. 1945. májusban bekerült az MKP Központi Vezetőségébe. 1944. decemberben Miskolcon választották be az Ideiglenes Nemzetgyűlésbe, s 1967-ig folyamatosan részt vett a törvényhozás munkájában. 1945. novembertől 1947. januárig az Iparügyi Minisztérium államtitkára volt. 1947. januártól a KV Propaganda Osztályát vezette, egyúttal tagja lett a KV Szervező Bizottságának. 1947. novembertől a Miniszterelnökség politikai államtitkáraként dolgozott, decemberben kinevezték az Elhagyott Javak Kormánybiztossága Elnöki Tanácsának elnökévé.
1948. júniusban a Magyar Dolgozók Pártja alakuló kongresszusán kimaradt a Szervező Bizottságból, majd novemberben ismét a testület tagja lett. 1948. decemberben altábornagyi rangban honvédelmi miniszterhelyettessé nevezték ki, és megbízták a Honvédelmi Minisztérium akkor megalakított Politikai Főcsoportfőnöksége vezetésével. A koholt katonaperek megrendezéséhez bírósági ülnökként közvetlenül is köze volt, később őt magát is Puskin szovjet nagykövet és Farkas Mihály közbenjárása mentette meg a letartóztatástól. 1955. júliustól, immár vezérezredesi rangban, a honvédelmi miniszter első helyettese volt. 1955. decemberben tartalékállományba helyezték, és átvette a KV Agitációs és Propaganda Osztályának vezetését. 1956. március 13-án tagja lett a Farkas Mihály ügyének kivizsgálására alakított bizottságnak.
Az 1956-os forradalom idején 1956. október 26-ig tagja volt az MDP KV Katonai Bizottságának. 1956. novembertől a széthullott MDP utódaként megalakított Magyar Szocialista Munkáspárt Ideiglenes Központi Bizottsága Szervező Bizottsága tagja és az Agitációs és Propaganda Osztály vezetője volt, de Kádár fenntartásokkal fogadta szolgálatait, így rövidesen diplomáciai pályára irányították. 1957. május 1-jén főosztályvezetőként a Külügyminisztérium állományába vették, s május 9-én rendkívüli követi és meghatalmazott m
iniszteri rangban megbízták a pekingi és hanoi nagykövetség vezetésével. Az 1957. júniusi pártértekezleten bekerült a KB-ba. 1959. decemberben megtették az MSZMP Központi Ellenőrző Bizottsága elnökévé, külföldi állomáshelyéről hivatalosan 1960. januárban hívták vissza. 1962-ben Aczél Györggyel együtt felkereste a száműzetésben élő Rákosi Mátyást, hogy a koncepciós perekben játszott szerepéről kikérdezze.
1962. novemberben kimaradt a KB-ból, s 1963. márciusban az Elnöki Tanács tagjává választották. 1966. decemberben a KEB éléről vonult nyugállományba, ugyanakkor újra KB- tag lett. A kollektív államfői testületnek 1967. áprilisig, a „pártparlamentnek” élete végéig maradt tagja.