Nacque
il 16 novembre 1908 a Schorndorff, si laureò in legge all'Università
di Tubinga.
Entrò nel Partito Nazionalsocialista il 1° dicembre 1931 e nelle
SS il 1° giugno 1936. Venne nominato capo del Sonderkommando 7a (
Einsatzgruppe
B) nel febbraio 1942 e vi rimase sino al 28 gennaio 1943.
Klincy, Dobrush, Kletnja, Moglin, Nowosybkow, Potschjep, Slynka, Starodub, Trubtschewsk
furono le località dove Rapp condusse i suoi uomini a caccia di ebrei,
zingari e comunisti.
Soltanto tra il 6 ed il 30 marzo 1942 Rapp fece uccidere 1657 persone di cui
27 comunisti, 45 zingari e 1.585 ebrei.
Non sappiamo quante altre persone vennero massacrate durante il periodo di comando
di Rapp.
Terminata la sua azione di massacratore venne trasferito a Berlino a capo dell'Ufficio
VI-C dell'Ufficio Centrale per la Sicurezza del Reich (
RSHA).
e, successivamente a capo del Servizio di Sicurezza di Braunschweig.
Dopo la guerra si sottrasse alla giustizia sino al 1965 anno in cui venne condannato
all'ergastolo da un tribunale di Essen in Germania.