Gli Einsatzgruppen erano quattro unità motorizzate delle SS designate con quattro lettere dell'alfabeto: A,B,C,D. Ciascun Einsatzgruppe operava alle spalle delle unità militari impegnate nei combattimenti con i sovietici dal Mar Baltico sino al Mar Nero.
Ciascun Einsatzgruppe era suddiviso in unità minori chiamate Einsatzkommandos o Sonderkommandos. A loro volta queste unità si dividevano in plotoni chiamati Teilkommandos.
Il numero complessivo di uomini impiegati nei quattro Einsatzgruppen era di circa 3.000 uomini.

Un mese prima dell'invasione dell'Unione Sovietica iniziata il 22 giugno 1941, tutti gli uomini degli Einsatzgruppen erano stati riuniti nella città di Pretzsch per ricevervi l'istruzione ideologico-politica e gli ordini di operazione. I comandanti e i membri degli Einsatzgruppen erano stati reclutati tra i membri della Polizia di Sicurezza (SIPO), della Polizia Segreta (GESTAPO), del Servizio Segreto delle SS (SD) e delle Waffen-SS (unità militari delle SS).

Gli Einsatzgruppen rispondevano direttamente agli ordini di Heinrich Himmler e Reinhard Heydrich.
Ufficialmente il loro compito consisteva nel garantire la sicurezza dei territori occupati dalle eventuali operazioni dei partigiani sovietici. In realtà la loro missione consisteva nella eliminazione degli ebrei, degli zingari, e dei comunisti catturati dietro le linee tedesche.

L'inizio delle operazioni degli Einsatzgruppen segna l'avvio di quella "soluzione finale del problema ebraico in Europa" che sarebbe continuata con la creazione dei campi di sterminio.
Gli Einsatzgruppen entravano in azione dopo che villaggi, città e territori erano stati conquistati dall'esercito. Gli Einsatzgruppen operarono dal giugno 1941 al maggio 1943 e hanno lasciato delle loro azioni ben 195 rapporti segreti che descrivono dettagliatamente i massacri più atroci e sistematici che una "nazione civile" abbia mai commesso nella storia dell'umanità.