Partiumi iparoscsalád gyermekeként született, apja, Zöld Sándor cipészként és kőművesként is dolgozott, anyja Kubinyi Anna volt. Édesanyját a kommün alatti agitációs tevékenysége miatt a megszálló román hadsereg tagjai bántalmazták. A család a trianoni békeszerződés után Berettyóújfaluba költözött, ahol a magyar hatóságok anyját rövid időre internálták.
Az elemi és a polgári iskolát Berettyóújfaluban végezte. A gimnáziumot Karcagon kezdte el, majd Kecskeméten érettségizett. 1931-től a debreceni Magyar Királyi Tisza István Tudományegyetem Orvostudományi Karán folytatta tanulmányait. 1932-ben a szintén Berettyóújfaluban élő Kállai Gyula vonta be az illegális kommunista pártba. Előbb szimpatizánscsoportokat szervezett, majd bekapcsolódott a korabeli hivatalos ifjúsági egyesületek tevékenységébe, ahol folytatta az agitációt. 1936 tavaszán az Egyetemi Kör titkárává választották. Vezetésével a kör 1936-ban az úgynevezett második debreceni diétán (az összejövetelen diákegyesületek meghívására neves személyek tartottak sorskérdésekről előadásokat), majd 1937-ben a Márciusi Front debreceni szervezetének egyetemi ifjaival együtt országos igényű reformprogramot fogalmazott meg. 1938-ban a szervezet Tovább című folyóiratát szerkesztette, a lapot azonban három szám után betiltották. Politikai tevékenysége miatt az egyetem rektorától szigorú megrovás büntetést kapott, ezért csak 1939-ben szerzett diplomát. 1940 októberétől alorvosként a berettyóújfalui kórház belgyógyászatán dolgozott.
1944 őszén Bihar vármegye keleti fele Nagyváraddal együtt ismét román fennhatóság alá került. Magyarországhoz tartozó nyugati részének Berettyóújfalu lett a közigazgatási központja, ahol a szerveződő új hatalom őt bízta meg a maradék megye főispáni teendőinek ellátásával. 1944. decemberben Berettyóújfaluban beválasztották az Ideiglenes Nemzetgyűlésbe (ettől kezdve élete végéig a törvényhozás tagja maradt), december 23-án pedig az előző nap megalakult Ideiglenes Nemzeti Kormányban a Belügyminisztérium politikai államtitkárának nevezték ki. Hivatali működése alatt fontos szerepet játszott az államigazgatás megszervezésében. Pártközi alku részeként – a gyömrői kommunisták által elkövetett politikai gyilkosságok kivizsgálásának nem nevesített felelőseként – államtitkári megbízatásából 1945. július 15-én felmentették. Állami tisztsége mellett 1945. áprilistól a Magyar Kommunista Párt Központi Vezetősége Közigazgatási Osztályát (1945. decembertől Közigazgatási és Közgazdasági Osztály) vezette. 1946. november elején a budapesti pártközpontból az MKP Nagy-Szegedi Bizottságának élére helyezték.
A szociáldemokrata pártnak az MKP-ba olvasztásával létrejött Magyar Dolgozók Pártja 1948. júniusi alakuló kongresszusán póttagként bekerült a KV-ba. A Belügyminisztériumba 1948. október 30-án adminisztratív államtitkári beosztásban tért vissza, ahol fő feladata a tanácstörvény megalkotása, a tanácsok létrehozása lett. 1949. szeptemberben a Rajk-perben történt letartóztatások miatt megüresedett egyik helyre rendes tagként kooptálták a KV-ba. Az 1950. május 31–június 1-jei KV-plénumon beválasztották az MDP Politikai Bizottságába, 1950. június 23-án Kádár János utódaként belügyminiszterré nevezték ki. 1951. februártól a párt legfőbb vezetői folyamatosan bírálták tevékenységét. Az MDP PB 1951. április 19-én tartott ülésén és másnap a minisztertanácsban Rákosi Mátyás és Farkas Mihály kifogásolták, hogy az 1950. október 22-én tartott tanácsválasztásokon több helyen volt horthysta tisztviselőket is beválasztottak a tanácsi apparátusba; bírálták azért, mert a belügyi dolgozók összetétele nem a kívánt mértékben változott, és a minisztériumi munka színvonala sem javult. Bűnéül rótták fel, hogy a Márciusi Front korábban már őrizetbe vett tagjaival (Donáth Ferenc, Losonczy Géza) szoros baráti kapcsolatban állt. Az ülés másnapján egész családjával együtt holtan találták. A kiadott hivatalos tájékoztató szerint, amely a letartóztatására érkező politikai rendőrök beszámolóján alapult, végzett édesanyjával, feleségével, két gyerekével, és öngyilkos lett. Az események pontos körülményei máig tisztázatlanok. Halálának nyilvánosságra hozatala előtt az MDP KV megfosztotta minden párttisztségétől, és visszavonta belügyminiszteri megbízatását. Politikai rehabilitálására 1957- ben került sor.