Były piłkarz i reprezentant Polski. Pierwszym klubem był Orzeł z rodzinnej Wierzbicy. W 1985 roku Zieliński przeniósł się do Igloopolu Dębica, gdzie występował przez sześć. Jego trzecim i zarazem ostatnim zespołem w karierze była Legia Warszawa, z którą zdobył trzy mistrzostwa Polski i trzy Puchary Polski.

W reprezentacji Polski obrońca zadebiutował 7 czerwca 1995 roku w meczu ze Słowacją. Łącznie w kadrze wystąpił 60 razy, dzięki czemu stał się członkiem Klubu Wybitnego Reprezentanta. Był uczestnikiem MŚ 2002 – zagrał w ostatnim meczu fazy grupowej z USA (3:1). Z drużyną narodową pożegnał się meczem z Włochami (3:1) w listopadzie 2003 roku.

Po zakończeniu kariery piłkarskiej Zieliński rozpoczął karierę trenerską. Od jesieni 2004 do września 2005 roku był pierwszym trenerem Legii Warszawa. Przez kolejne dwa lata pełnił funkcję asystenta Dariusza Wdowczyka, a następnie od kwietnia 2007 roku znów prowadził stołeczną drużynę. W lecie 2007 roku zastąpił go Jan Urban, a Zieliński odszedł z Legii. W kolejnych dwóch sezonach był trenerem Korony Kielce (2007-08) i Lechii Gdańsk (2008-09).

Na początku 2010 roku został asystentem Franciszka Smudy, selekcjonera reprezentacji Polski. Obaj rozstali się z drużyną po Euro 2012. Od stycznia 2013 roku Zieliński pełni funkcję trenera reprezentacji Polski U20.