Nacque il 26 dicembre 1886 a Murga in Ungheria, allora parte dell'impero asburgico. Abbracciò la carriera militare e divenne conosciuto nei circoli militari per le sue tendenze antiaustriache e per il suo esasperato nazionalismo.
Con la fine della Prima Guerra Mondiale e la fine dell'impero austriaco l'Ungheria attraversò un periodo di caos politico dal quale emerse una compagine di governo socialdemocratica che, successivamente, venne sostituita da un governo dittatoriale bolscevico guidato da Bela Kun.
Gombos, che aveva trovato rifugio nella città di Szeged controllata dalle truppe francesi, organizzò un partito anticomunista ed una rete di strutture segrete controrivoluzionarie. Nel comune disegno di rovesciare Bela Kun si alleò con i conservatori guidati da Istvan Bethlen. Ne nacque un governo in esilio nel quale Gombos venne nominato ministro della Difesa.
In questo ruolo strinse amicizia con l'ammiraglio Miklos Horthy. Quando Bela Kun venne sostituito dal governo Bethlen passò all'opposizione giudicando che l'Ungheria avesse bisogno di un governo che rompesse con i vecchi schemi aristocratici. In questo senso aveva già dimostrato le sue tendenze facendo fallire i tentativi di restaurare la monarchia con un re effettivo nella persona di Carlo IV d'Asburgo.
Nel 1929 accettò di rientrare al governo come ministro della Difesa ma mantenne le sue distanze ideologiche dai conservatori.
Quando nel 1931 Bethlen diede le dimissioni lo sostituì nella carica di Primo Ministro a partire dal 1° ottobre 1932.
Gombos era un antisemita paranoico propugnatore di confuse e generiche idee fasciste troppo a destra per i conservatori e giudicate troppo 'morbide' dall'ala più dura del suo stesso partito.
Una volta divenuto Primo Ministro decise di dare all'Ungheria una nuova politica in campo internazionale e si avvicinò alla neonata Germania nazista. Fu il primo capo di Stato a fare visita a Hitler dopo il suo avvento al potere.
Il suo programma dittatoriale incomtrò l'opposizione di Horthy e Gombos morì improvvisamente, senza aver colto alcun concreto risultato il 6 ottobre 1936 a Monaco di Baviera.