Adolf Schwarz wurde am 23. Februar 1907 in Tilsit geboren und war gelernter Zimmerer. Vor 1933 gehörte er keiner politischen Organisation an. Im September 1934 schloss er sich der illegalen KPD an. Die Gestapo verhaftete ihn am 13. Oktober 1935 und das OLG Hamm verurteilte ihn zu einer Zuchthausstrafe von vier Jahren.

Im Juli 1937 gelang Schwarz die Flucht aus dem Zuchthaus Münster. Er lebte unter falschem Namen in den Niederlanden und schloss sich dort 1941 der Widerstandsbewegung an. Im März 1943 wurde er verhaftet und in das KZ Vught eingeliefert. Auf dem Transport nach Deutschland gelang ihm erneut die Flucht und setzte seine illegale Betätigung bis Kriegsende fort. Die „Stichting 1940-1945“, die offizielle Organisation für Sozialhilfe der niederländischen Widerstandsbewegung, nahm ihn nach dem Krieg als Mitglied auf und bescheinigte ihm aktiven Anteil „an der Zersetzung der deutschen Wehrmacht“ genommen zu haben.