Apja, Bata István napszámos, mezőgazdasági cseléd volt, anyját Benke Júliának hívták. Fia, Bata László 1950-től 1959-ig a politikai rendőrségen szolgált, 1953–1956 között – megszakítással – a katonai elhárításnál volt osztályvezető.
Hat elemit végzett. 1923-ban került fel Pestre, ahol kifutófiúként, tejhordóként dolgozott, majd a Budapest Székesfőváros Közlekedési Rt.-nél (BSZKRT) lett váltókezelő, kalauz, 1936-tól villamosvezető, közben 1934. októbertől 1935. szeptemberig katonai szolgálatot teljesített.
1930-ban belépett a Magyarországi Szociáldemokrata Pártba, majd 1938-ban kilépett. 1935-től a villamos alkalmazottak szakszervezetének titkára, 1939-től központi vezetőségi tagja volt. 1933-ban került kapcsolatba a Kommunisták Magyarországi Pártjával, mozgalmi munkája miatt 1942-ben besorozták egy büntetőszázadba, de hamarosan leszerelték. 1943 tavaszán illegális kommunista tevékenység miatt hat hónap fogházra ítélték, amelyet felfüggesztettek, s a próbaidő tartamára rendőri felügyelet alá helyezték. 1944. decemberben egy bombaszilánktól fél szemére megvakult.
1945-től a BSZKRT Szépilona kocsiszínében állomásvezető, a Magyar Kommunista Párt üzemi végrehajtó bizottságának és a Közalkalmazottak Szakszervezete Központi Vezetőségének tagja volt. 1947-től függetlenített pártfunkcionáriusként (káderesként) dolgozott a BSZKRT-ban. 1949. június 1-jén pártutasításra – minden katonai előképzettség nélkül, egyből ezredesi rangban – hivatásos állományba vették, s az Országos Légvédelmi Parancsnokság parancsnokának helyettesévé, 1950. augusztus 1-jén parancsnokává, 1950. október 7-én a Magyar Honvédség (1951. június 1-jétől Magyar Néphadsereg) vezérkari főnökévé nevezték ki, közben 1950. május 23-án vezérőrnagyi, október 7-én altábornagyi rangot kapott. 1951. márciusban a Magyar Dolgozók Pártja Központi Vezetőségének póttagja, 1953. júniusban a KV rendes tagja és a Politikai Bizottság póttagja lett. Egyike volt azon katonatiszteknek, akik a ludovikás kommunisták félreállítása után a párthű népi kádereket képviselték a hadseregben.
1953. július 4-én Farkas Mihály utódaként kinevezték honvédelmi miniszternek, ezért augusztus 11-én megvált vezérkari főnöki tisztétől. 1955. május 14-én Hegedüs András miniszterelnökkel együtt ő írta alá a Varsói Szerződés alapító okmányát. Az MDP KV 1956. október 23-áról 24-re virradó éjjelen tartott ülésén miniszteri funkciójából fakadóan tagja lett a felkelés leverésének irányítására akkor felállított Katonai Bizottságnak, de a PB-ből kimaradt, október 27-én a kormányból is eltávolították. Ezt követően a tököli szovjet katonai bázisra menekült, ahonnan 1956. október 29-án Moszkvába repült. 1956. október 31-én távollétében tartalékállományba helyezték, november 16-án kizárták a pártból. 1958. szeptemberben térhetett vissza Magyarországra, 1959. februárban az Elnöki Tanács rendfokozatától is megfosztotta (1954-től már vezérezredes volt). Ezután a Budapesti Közlekedési Vállalatnál (BKV) remízigazgató lett, majd a vállalat baleset-elhárítási osztályának vezetőjeként dolgozott.