Николай Александрович Жарков родился 9 мая 1921 года в местечке Катынь Смоленской области, в семье рабочих. В июне 1941 года окончил 3‑ю Московскую артиллерийскую специальную школу и добровольно вступил в Красную Армию. Летом 1941‑го стал курсантом 1‑го Московского Краснознамённого миномётно‑артиллерийского училища имени Л. Б. Красина.

В марте 1942 года, окончив училище по ускоренному курсу, получил звание младшего лейтенанта и был направлен в действующую армию. С мая 1942‑го служил на фронте в составе гвардейских миномётных частей («Катюш») — в 281‑м гвардейском миномётном дивизионе 56‑го гвардейского миномётного полка.

Прошёл следующие этапы боевого пути:

• Калининский фронт (май — август 1942), командир огневого взвода, бои под Ржевом;
• Сталинградский фронт (август — сентябрь 1942), командир огневого взвода;
• Донской фронт (сентябрь 1942 — апрель 1943), командир батареи, участие в окружении и разгроме немецкой группировки под Сталинградом.

За оборону Сталинграда награждён медалью «За оборону Сталинграда» (22 декабря 1942).

В мае 1943 года отозван с фронта для обучения. Прошёл сборы при 327‑м гвардейском миномётном полку, с ноября 1943 по ноябрь 1944 года учился в Высшей офицерской технической школе Красной Армии в Вольске. Завершающий период войны служил начальником штаба дивизиона во 2‑й учебной гвардейской миномётной бригаде.

После Победы продолжил службу в ВС СССР:

• 1946–1949 годы — Центральная группа войск (заместитель начальника школы сержантского состава, командир батареи);
• далее — Закавказский военный округ (командир батареи и начальник штаба дивизиона 75‑й стрелковой дивизии).

Прошёл путь от младшего лейтенанта (1942) до гвардии майора (1953). Уволен в запас 26 июля 1961 года.

Был женат на Эвелине Александровне Жарковой, воспитал двоих детей — дочь Галину и сына Юрия.