Будущий командир всех десантников Советского Союза родился 27 декабря 1908 года в городе Екатеринославе, куда его отец, рабочий-металург, приехал на заработки. Когда Василию исполнилось 5 лет, его семья вернулась в родную Белоруссию – городок Костюковичи Могилевской губернии. В 1921 году окончил школу, и начал трудовую деятельность. Сменил множество профессий, работал грузчиком, плотником, экспедитором, шахтером, погонщиком лошадей, лесником. В 1928 году призван в ряды Красной Армии, направлен учиться в Белорусскую военную школу, и был зачислен в группу снайперов. Через год назначен старшиной пулеметной роты. В 1929 году стал членом ВКП(б). В 1931 году, после окончания школы с отличием, Маргелов стал командиром пулеметного взвода. В 1936 году он уже командует пулеметной ротой, а через два года возглавляет батальон 25-го стрелкового полка 8-й стрелковой дивизии и командует дивизионной разведкой. Осенью 1939 года Маргелов со своим полком участвует в Польском походе РККА. В декабре 1939-го во время финской кампании назначен командиром лыжного диверсионного батальона.

С октября 1940 года и до начала войны Маргелов командует 15-м дисциплинарным батальоном. В июле 1941-го он возглавил стрелковый полк дивизии народного ополчения Ленинградского фронта, а с ноября 1941-го командует морской пехотой, которую поставили на лыжи - 1-м лыжным полком моряков КБФ. Был тяжело ранен, после возвращения в строй в феврале 1942-го, Маргелов назначен командиром 218-го стрелкового полка, который в составе 54-ой армии оборонял Ленинград. В июле 1942-го получил под свое командование 13-й гвардейский стрелковый полк и отправился с ним на Южный фронт. В декабре 1942-го принимал участие в отражении деблокирующего удара Манштейна. В январе 1943 года Маргелов был повышен в звании до заместителя командира 3-й гвардейской стрелковой дивизии. С декабря 1943-го исполняет обязанности командира 49-й гвардейской стрелковой дивизии. В марте 1944-го его дивизия с ходу форсировала Днепр и за несколько часов захватила Херсон, а через неделю Маргелову присвоено звание Героя Советского Союза.