После академии командовал ротой Учебного отряда на Балтике, а так же участвовал в работе Комиссии морских артиллерийских опытов. За это время заслужил отзыв от вице-адмирала Бутакова(начальник штаба эскадры броненосных кораблей Балтийского флота) - «Ужасно нервный человек, а бравый и очень хороший моряк».
В 1876 занимался подготовкой артиллерии Черноморского флота. Приближалась очередная русско-турецкая война. В результате Зиновий Петрович Рожественский был назначен начальником артиллерии Черноморского флота. Во время войны З.П. Рожественский не просиживал штаны на берегу, а неоднократно принимал участие в крейсерских рейдах.
В 1877 Зиновию Петровичу выпал шанс отличиться. По причине гибели подполковника Чернова он принял на себя командование артиллерией на пароходе «Веста». В результате турецкий броненосец «Фетхи-Буленд» получил повреждения, заставившие его выйти из боя. Зиновий Петрович Рожественский был удостоен звания капитан-лейтенанта, а так же награжден орденом Святого Владимира четвертой степени с мечами и бантом, и орденом Святого Георгия четвертой степени.
По окончанию войны Зиновий Петрович Рожественский отметился в печати. В газете «Биржевые ведомости» он опубликовал статью «Броненосцы и купцы-крейсера». В статье он выступал с критикой о техническом состояния Российского флота. Так же в статье он призывал переориентироваться на строительство броненосцев.
С 1883 по 1885 Рожественский исполнял обязанности «начальника Флотилии и морской части Княжества и командира княжеско-болгарской яхты „Александр I“» на болгарском военном флоте. За это время был основан военно-морской музей, библиотека и созданы первые болгарские военно-морские регламенты.
Период с 1886 по 1891 выдался для него весьма бурным. Ему довелось служить флагманским офицером, старшим офицером, капитаном корабля на Балтийском и Тихоокеанском флотах. 1887 год – старший офицер броненосной батареи «Кремль» и фрегата «Герцог Эдинбургский». В 1890 командир клипера «Наездник». В 1891 году командир канонерской лодки «Грозящий».
Довелось Зиновию Петровичу Рожественскому быть и военно-морским атташе в Лондоне с 1891 по 1893. В это время он уже прибывал в чине капитана первого ранга.
Командиром крейсера «Владимир Мономах» Рожественский стал в 1894 году. Крейсер входил в состав Средиземноморской эскадры контр-адмирала Степана Осиповича Макарова. В составе эскадры Зиновий Петрович совершил переход на Дальний восток и заслужил признание и доверие адмирала Макарова.
В 1896—1898 гг. — командир броненосца береговой обороны «Первенец».
В 1898 Зиновию Петровичу Рожественскому присваивают звание контр-адмирал. В этом звании он командует Учебно-артиллерийским отрядом на балтийском флоте.
Слава к Рожественскому пришла в 1900 году. Он отличился исключительно чёткой организацией работ по спасению броненосца «Генерал-адмирал Апраксин», который вылетел на камни около острова Гогланд. В результате деятельности Рожественского броненосец смог своим ходом вернуться в Кронштадт, а контр-адмирал Зиновий Петрович настоял на награждении отличившихся в спасательных работах офицеров в точном соответствии с представленным им списком.
Во время Русско-Японской войны(1905-1906), адмиралу Рожественскому выпало командовать второй Тихоокеанской эскадрой посланной на помощь первой эскадре. Эскадра адмирала Рожественского потерпела поражение у острова Цусима. Именно эта битва с эскадрой японского адмирала Того стала решающим событием Русско-Японской войны. Адмирал Рожественский был взят в плен. После окончания войны на суде, Зиновий Пертович всячески защищал своих подчиненых и брал всю вину за исход боя на себя.
Скончался адмирал Рожественский 14 января 1909 от болезни легких. Был похоронен на Тихвинском кладбище Александро-Невской лавры, но могила до наших дней не сохранилась.
