Jego ojciec Władysław, oficer Wojska Polskiego, za udział w wojnie polsko-bolszewickiej odznaczony Orderem Virtuti Militari, został osadnikiem wojskowym w powiecie krzemienieckim na Wołyniu. Syn Zygmunt ukończył Liceum Krzemienieckie. Działał w Wołyńskim Związku Młodzieży Wiejskiej, publikował artykuły o tematyce historyczno-społecznej w miesięczniku „Droga Pracy”, dodatku do „Życia Krzemienieckiego”, a także dwujęzycznym polsko-ukraińskim piśmie „Młoda Wieś – Mołode Seło”. Popierał ideę Polski jako państwa wielonarodowego.
W 1939 r. Zygmunt Rumel ukończył Wołyńską Szkołę Podchorążych Rezerwy Artylerii im. Marcina Kątskiego we Włodzimierzu Wołyńskim. Brał udział w wojnie obronnej, by po ataku ZSRR na Polskę dostać się do sowieckiej niewoli. Uniknął śmierci w zbrodni katyńskiej podając się za szeregowca. Na Wołyniu wstąpił do tajnej organizacji antysowieckiej, która podporządkowała się następnie Związkowi Walki Zbrojnej.
W lipcu 1943 r. Zygmuntowi Rumlowi wydano, jak się wkrótce okazało, ostatni rozkaz. Stanął na czele delegacji rządu RP na rozmowy z miejscowym dowództwem Ukraińskiej Powstańczej Armii mające zahamować ludobójstwo wołyńskie i uzgodnić wspólną z Ukraińcami walkę z Niemcami. Rumel w geście dobrej woli zrezygnował ze zbrojnej obstawy. Został zamordowany razem z przedstawicielem Okręgu Wołyńskiego AK Krzysztofem Markiewiczem, ps. „Czort” i woźnicą Witoldem Dobrowolskim.
Jarosław Iwaszkiewicz wspominając śmierć Rumla napisał: „Był to jeden z diamentów, którym strzelano do wroga. Diament ten mógł zabłysnąć pierwszorzędnym blaskiem”.
Następnego dnia, 11 lipca 1943 r., ukraińscy bandyci spod znaku UPA rozpoczęli główny etap ludobójstwa polskiej ludności na Wołyniu.
W wierszu „Dwie matki” Zygmunt Rumel pisał o swoich dwóch Ojczyznach – Polsce i Ukrainie:
„Dwie mnie Matki-Ojczyzny wyuczyły mowy / W warkocz krwisty plecionej jagodami ros / Bym się sercem przełamał bólem w dwie połowy / By serce rozdwojone płakało jak głos...”