Benché i nazisti si fossero riservati un'area di occupazione più piccola di quella italiana nelle loro mani cadde la maggior parte della comunità ebraica greca.
Secondo il censimento del 1940 in Grecia risiedevano 79.950 ebrei. Di questi 56.500 vivevano a Salonicco ed altri 9.027 nella Macedonia occupata dai nazisti. Nella Tracia affidata ai Bulgari ne risiedevano 2.852. Altri 20.598 erano concentrati nell'area occupata dagli italiani.

Himmler - secondo quanto ricorda Gerhard Engel, ufficiale di Stato Maggiore presso il quartier generale di Hitler - ricevette dal Führer l'autorizzazione ad agire contro gli ebrei di Salonicco sin dai primi giorni dell'ottobre 1941.
Evidentemente problemi più urgenti trattennero Himmler dall'iniziare subito le operazioni di deportazione in Grecia.
Ciò non significò tuttavia la tranquillità per gli ebrei. Già nell'aprile 1941 arrivò in Grecia l'Einsatzstab Rosenberg che si impossessò degli archivi e delle biblioteche di Atene e Salonicco trasportando documenti e libri a Francoforte. Nell'estate dello stesso anno vennero sequestrati conti correnti e beni.

La prima azione violenta su larga scala ebbe luogo l'11 luglio 1941 a Salonicco.
Venne ordinato a circa 10.000 ebrei maschi tra i 18 e i 48 anni di riunirsi in una piazza cittadina alle 8 del mattino.
Qui vennero fatti rimanere in piedi sino al tramonto senza acqua e cibo. Coloro che cedevano venivano percossi o pubblicamente umiliati.
L'operazione di Salonicco non venne condotta da elementi delle SS ma dal presidio dell'esercito tedesco comandato dal generale von Krenzki e da elementi dell'esercito italiano. Più tardi una parte degli ebrei venne inviato ai lavori forzati nelle vicine miniere di cromo.

Le operazioni di deportazione tuttavia dovettero attendere che la macchina burocratica tedesca si mettesse in moto. Soltanto il 6 febbraio 1943 - con l'arrivo degli uomini di Eichmann - iniziò la sistematica distruzione della Comunità ebraica greca.