Operò a Vienna e, dopo l'assorbimento dell'Austria nel Reich abbandonò le SA per passare alle SS il 15 agosto 1939 (matricola 337.753). Venne impiegato nell'Ufficio Personale delle SS a Berlino (SS-Personalhauptamt) dal febbraio 1941 al luglio 1942. Promosso SS-Oberführer nel luglio 1942 ebbe una rapida carriera arrivando sino al grado di SS-Gruppenführer e Generalleutnant delle Waffen-SS il 20 Aprile 1944.
Venne utilizzato ampiamente negli organismi periferici della Gestapo: capo delle SS (SSPF) dell'area "Saratow" dal settembre al novembre 1941, nello stato maggiore del comando supremo di polizia e SS (HSSPF) "Russland-Mitte" sino al luglio 1942.
In questo periodo fu uno dei partecipanti alla cosiddetta "Operazione Weichsel", una azione antipartigiana su larga scala condotta tra i fiumi Pripet e Dniester che costò la vita a 4.018 persone e la distruzione di 103 villaggi.
Dal luglio 1942 al luglio 1943 fu comandante delle SS nella area di Minsk (SSPF "Minsk") e capo del 13° reggimento di polizia.
Fu anche comandante - da metà luglio all'ottobre 1943 - della SS-Freiwilligen-Division "Galizien" una divisione formata con collaborazionisti ucraini.
Fu nominato Capo Supremo della Polizia ed SS in Grecia (HSSPF "Griechenland") nell'ottobre del 1943 e rimase nella penisola ellenica sino all'ottobre 1944.
In Grecia fu uno dei responsabili dell'evacuazione degli ebrei verso i campi di sterminio e della repressione della Resistenza greca. Fu infatti il creatore di una gendarmeria composta da collaborazionisti greci.
Venne infine nominato capo supremo delle SS e della polizia nel settore "Donau".

Catturato dagli Alleati venne sottoposto a processo ma si sottrasse alla pena impiccandosi la notte del 12 settembre 1948 a Salisburgo.

Prima di suicidarsi in carcere Shimana cercò costantemente di ridurre le proprie responsabilità nelle operazioni di sterminio degli ebrei europei. Particolarmente per ciò che riguarda il suo periodo di comando in Grecia, cercò di scaricare ogni responsabilità sul suo collaboratore Blume.
Quando venne interrogato, il 31 luglio del 1945 dagli Alleati, diede l'impressione di essere un "gentiluomo ben educato" e non un ufficiale delle SS. In realtà Shimana era un veterano nazista, amico di Kaltenbrunner.
Al suo arrivo ad Atene prese alloggio in una villa lussuosa. Orgoglioso della sua uniforme si circondò di giovani e bionde segretarie.
Shimana amava frequentare i locali notturni di Atene piuttosto che impegnarsi nelle operazioni contro la Resistenza e gli ebrei.
Ciò non toglie che con l'aiuto del suo vice, Blume, riuscì a distruggere la comunità ebraica greca e a rendersi responsabile della morte di centinaia di partigiani greci.
Schimana già prima della sua presenza in Grecia aveva contribuito alla messa in atto dello sterminio degli ebrei d'Europa attraverso la creazione della divisione SS "Galizien" e comandando il 13° Battaglione di Polizia.
Tra i diversi battaglioni di polizia d'ordine (Ordnungpolizei) che agirono in Polonia il 13° fu uno dei più efficienti eliminando 12.000 persone nel distretto di Mlawa e altre 5.000 a Plohnen alla fine del 1942.