Subito dopo l'emanazione dell'ordine di Hitler Phillip Bouhler e Karl Brandt iniziarono ad organizzare la struttura che avrebbe dovuto condurre l'operazione di eliminazione.
In primo luogo venne stabilita la sede dell'organizzazione. A Berlino, al centro dell'elegante quartiere residenziale di Charlottenburg, venne espropriato un villino di proprietà di un ebreo. Lo stabile si trovava al civico numero 4 della Tiergartenstrasse. Proprio da questo indirizzo fu ricavato il nome in codice per l'operazione di eutanasia: "Aktion T4".

Mentre Phillip Bouhler si disinteressò presto dell'operazione, Karl Brandt (probabilmente in quanto medico) si impegnò a fondo nella "Aktion T4". Per mettere in piedi la struttura Brandt si appoggiò al suo vice Viktor Brack che, assunto lo pseudonimo di "Yennerwein", iniziò il reclutamento del personale. Brack e il suo collaboratore Werner Blackenburg scelsero personalmente tutti gli uomini e le donne che avrebbero dovuto far parte della Aktion T4.

L'intero processo di reclutamento venne sviluppato in un'atmosfera di estrema segretezza. Franz Stangl, che successivamente sarà comandante dei campi di Sobibor e Treblinka, ricorda così il suo reclutamento:
"Mi presentai alla Tiergartenstrasse 4, all'SS Oberführer Brack, mi pare che mi spiegò quali sarebbero stati i miei compiti di polizia. Io dissi che avrei preferito rimanere in Austria, dove sarei stato più vicino alla mia famiglia (...) Mi diede il nome di un villaggio non molto lontano da Linz e un numero di telefono; ricordo che era: Alkoven 913 (...) Dovevo recarmi in una locanda alla periferia di Linz - la Gasthaus Drei Kronen, sulla Landstrasse e telefonare a quel numero e avrei avuto istruzioni. Feci come mi era stato detto, andai alla Drei Kronen e chiamai Alkoven 913. Rispose una voce maschile, dissi il mio nome e lui disse: "Vengo a prenderla". Circa un'ora dopo una specie di furgone si fermò davanti alla locanda. L'autista era in borghese, portava un abito grigio. Quando gli domandai dove andavamo, non me lo disse, si limitò a dire "in direzione di Everding". Dopo un'ora arrivammo al Castello di Hartheim".

Viktor Brack decise di creare una Direzione della "Aktion T4": il "Comitato dei Periti". Questo Comitato era, di fatto, il vertice della operazione ed era costituito da tre persone: il professor Werner Heyde, il professor Paul Nitsche e il professor Maximilian de Crinis. I tre - tutti psichiatri e nazisti affidabili - crearono la struttura amministrativa ed idearono tutti i passaggi esecutivi per lo sterminio dei disabili fisici e psichici.

Per mantenere strettamente segreto l'intero progetto vennero create tre strutture fittizie: la Fondazione Generale degli Istituti di Cura che si curava della gestione del personale della "Aktion T4"; la Associazione dei Lavoratori degli Istituti di Assistenza e cura del Reich che doveva preparare e spedire i questionari destinati a censire i malati ricoverati negli istituti psichiatrici; la Società di Pubblica Utilità per il trasporto degli ammalati, che doveva trasferire i pazienti destinati alla eliminazione dagli Istituti alle cliniche della morte.