Dzimis mācītāja ģimenē. 1936. gadā pēc vidusskolas beigšanas iestājās Luftwaffe dienestā. Iesākumā tika uzskatīts par nemākulīgu pilotu, tāpēc Otrā pasaules kara laikā līdz pat Vācijas uzbrukumam PSRS kaujas darbībā piedalījās tikai netieši. 1941. gada 23. septembrī viņam kopā ar otru ekipāžu Kronštatē izdevās nogremdēt padomju līnijkuģi "Marats". Karjeras laikā Rūdelam izdevās iznīcināt apmēram 2000 mērķu.
Kara beigās padevās ASV spēkiem. Pavadīja 11 mēnešus karagūstekņu nometnē, tika atbrīvots un devās uz Argentīnu, kur kļuva par diktatora Huana Perona draugu. 1953. gadā atgriezās Vācijā un iesaistījās politikā, darbojoties galēji labējāVācu Reiha partijā (Deutsche Reichspartei).