В 1923 году Виктор переехал в Минск, где поступил в музыкантский взвод пехотных курсов.
В армию его призвали в 1929 году. Через год Цивчинский окончил Белорусскую военную школу и преподавал в Смоленском артиллерийском училище. К 1941 году он окончил два курса Военной академии имени М. В. Фрунзе.
На фронт Виктор Гаврилович попал в мае 1942 года в должности командира 359-го артиллерийского полка Северо-Западного фронта. Под командованием Цивчинского в операции под городом Себеж и в Демянской наступательной операции с 15 по 18 февраля 1943 года полк отличился, уничтожив четыре минометные батареи, 25 огневых точек и около 500 солдат и офицеров противника. В критические минуты боя подполковник Цивчинский дважды лично поднимал в атаку пехоту. В июне 1943 года ему был вручен орден Красного Знамени.
В мае 1943 года Виктора Цивчинского назначили командующим артиллерией 68-й гвардейской стрелковой дивизии 40-й армии. В этой должности он воевал на Воронежском и 1-м Украинском фронтах.
Особо отличился Цивчинский в битве за Днепр, где 24-25 сентября 1943 года в районе села Балыко-Щучинка Кагарлыкского района Киевской области ему удалось организовать переправу и действия артиллерии 68-й стрелковой дивизии при форсировании Днепра. Вся артиллерия первой в корпусе была переправлена на левый берег Днепра. Корректируя огонь артиллерии, командир находился всего в 400 метрах от противника. Благодаря артиллерийской работе были успешно отражены несколько немецких контратак, а плацдарм был удержан и расширен.
В бою Цивчинский получил тяжелое ранение, но не оставил позиции, продолжая руководить. За это его сначала представили к ордену Ленина, однако в ноябре 1943 года командующий артиллерией 1-го Украинского фронта генерал-полковник Сергей Варенцов изменил статус награды, представив Виктора Гавриловича к званию Героя Советского Союза.
Указом Президиума Верховного Совета СССР от 24 декабря 1943 года за образцовое выполнение боевых задач, поставленных командованием, и проявленные при этом мужество и героизм Виктору Цивчинскому было присвоено звание Героя Советского Союза.
После лечения в госпитале Цивчинский вернулся на фронт и участвовал в Западно-Карпатской и Моравско-Остравской наступательных операциях, а также в освобождении в январе 1945 года польских городов Вадовице и Горлице. В феврале 1945 года был награжден орденом Отечественной войны I степени.
После войны Виктор Гаврилович продолжил службу в Вооруженных Силах СССР. С октября 1947 года по апрель 1951 года он возглавлял Томское артиллерийское училище. В 1953 году ушел в запас в звании полковника.
Скончался Виктор Гаврилович Цивчинский 30 мая 1961 года в Калинине (ныне Тверь) от последствий ранений. Похоронен на Николо-Малицком кладбище.
