В 1941 году был взят в армию и зачислен в минометную батарею. Участвовал в боях под Старой Руссой в звании сержанта. В 1943 году был ранен в обе ноги. После госпиталя был направлен в войска тяжелой артиллерии под командованием Малиновского, на второй Украинский фронт. Особенно запомнился Ивану Васильевичу прорыв под Яссами в Румынию, Венгрию, Чехословакию. Это были тяжелые бои. Поход закончили в городе Брно. В июне 1945 года был переброшен в Японию. Его заслуги отмечены орденом «Красной Звезды», медалями «За победу над Германией», «За боевые заслуги», «За победу над Японией».