Nato il 2 gennaio 1918 a Kuchenheim vicino a Euskirchen crebbe a Saarbrucken dove il padre era direttore di una industria vinicola sin dal 1922.
Nel 1928 venne iscritto all’Humanistische Ludwigsgymnasium, corrispondente al nostro liceo classico maturandosi nel 1937.
Graf proveniva da una famiglia profondamente cattolica e - sin dall’età di undici anni - fece parte della “Neudeutschland” una associazione studentesca cattolica che continuava la tradizione dei movimenti cattolici scolastici inaugurata in Germania dal movimento giovanile Wandervogel.
Dopo che il nazismo ebbe messo fuori legge tutte le organizzazioni non legate ai principi hitleriani Willi entrò nel 1934 nella associazione “Graue Orden”. Composta da ex membri della “Bündische Jugend”.
Il “Graue Orden” si caratterizzava come una associazione giovanile dedicata allo studio della filosofia. Di orientamento cattolico affrontava anche questioni liturgiche e propugnava una riforma della Chiesa Cattolica.
In questo percorso Graf maturò la convinzione della necessità di impegnarsi politicamente come cristiano e sviluppò in modo sempre più deciso una radicale avversione al nazismo. Giunse infine alla conclusione che fede cristiana e nazionalsocialismo erano tra loro incompatibili.

Pur venendo minacciato rifiutò di entrare nella “Hitlerjugend” (l’organizzazione giovanile nazista).
Nel gennaio 1938 venne imprigionato per settimane per aver partecipato a iniziative di campeggio non autorizzate. insieme ad altri suoi compagni del “Graue Orden”.
Uscì di prigione grazie all’amnistia generale concessa in occasione della annessione dell’Austria al Reich.
Dopo sei mesi di servizio forzato nelle organizzazioni del lavoro iniziò a studiare medicina all’Università di Bonn e, nell’inverno 1937-38 partì per il servizio militare.
Nel gennaio 1940 partecipò all’invasione della Francia nel corpo di sanità. Tra il marzo e l’aprile 1941 partecipò alla campagna in Yugoslavia e nell'estate 1942 venne inviato sul fronte russo dove conobbe Hans Scholl, Alexander Schmorell e Jurgen Wittenstein.
L’esperienza della guerra, le atrocità di cui fu spettatore rafforzarono ancora di più la sua convinzione di oppositore al nazismo.
Rientrato dal fronte nel dicembre 1942 prese la decisione di entrare nel gruppo clandestino della "Rosa Bianca" prendendo parte alle sue attività. Aiutò a redigere e a distribuire il quinto ed il sesto volantino, partecipava alle azioni di propaganda scrivendo sui muri della città slogan antinazisti.
La sua principale attività fu quella di reclutare nuovi aderenti alla “Rosa Bianca” ricontattando i suoi amici a Saarbrücken, Koln, Bonn, Freiburg e Ulm.
La mattina del 18 febbraio 1943 venne arrestato insieme a sua sorella Anneliese.
Il 19 aprile 1943 Roland Freisler presidente della “Corte del Popolo” condannò Graf alla pena capitale.
Torturato per mesi dalla Gestapo nell’inutile tentativo di estorcergli i nomi di altri compagni venne infine ghigliottinato il 12 ottobre 1943. Nella sua ultima lettera destinata alla sorella e agli amici scrisse: “Dovete continuare cioò che abbiamo cominciato”.