Prof. i.R. Zmijewski wurde am 23. Dezember 1940 in Essen geboren. Nach dem Abitur 1959 am Dreikönigsgymnasium Köln studierte er in Bonn, Freiburg und Köln Philosophie und Theologie. Zunächst Kaplan an St. Lambertus in Düsseldorf, wurde Zmijewski 1967 zu weiteren Studien freigestellt und war währenddessen Pfarrverweser an St. Martin in Ollheim, Subsidiar an Herz Jesu in Bad Godesberg Lannesdorf sowie Religionslehrer an der Irmgardisschule in Köln. Von 1973 an wirkte er als Subsidiar an St. Martin zu Bonn und war, nach seiner Promotion im Juni 1972, als Wissenschaftlicher Assistent an der Bonner Universität tätig. Nachdem er sich im Mai 1978 habilitiert hatte, wurde er im April 1980 zum ordentlichen Professor für Neutestamentliche Exegese und Neutestamentliche Einleitungswissenschaft sowie Bibelgriechisch an der Philosophisch-Theologischen Hochschule (heute: Theologische Fakultät) Fulda ernannt. Am 31. Juli 2006 wurde er hiervon entpflichtet.
Zudem war Josef Zmijewski von 1995 bis 2004 geistlicher Leiter (Prior) der Komturei des Ritterordens vom Hl. Grab zu Jerusalem und seit 2004 Provinzprior des Ordens. Ende 1994 war Zmijewski zudem vom Papst zum „Kaplan Seiner Heiligkeit“ (Monsignore) ernannt worden. Im März 2002 erfolgte durch den Bischof von Lomza (Polen), Stanislaw Stefanek, in Anerkennung seiner Verdienste um die Zusammenarbeit zwischen der deutschen und der polnischen Kirche die Ernennung zum Ehrendomkapitular des Kapitels der dortigen Kathedralkirche. Papst Johannes Paul II. ernannte ihn 2004 zum Päpstlichen Ehrenprälaten. Von Bischof em. Algermissen wurde er 2005 zum Ehrendomkapitular der Fuldaer Kathedralkirche bestimmt.
Prof. i.R. Zmijewski nahm im Bistum Fulda zahlreiche Seelsorgetätigkeiten wahr, unter anderem im Fuldaer Dom, in St. Bonifatius Horas und als Hausgeistlicher im Schwesternaltenheim St. Hedwig-Stift. Des Weiteren gestaltete er regelmäßig katholische Morgenfeiern im Rundfunk und kann zahlreiche theologische und geistliche Buchveröffentlichungen aufweisen.