Священномученик Иоанн родился 5 января 1879 года в селе Преображенском Серпуховского уезда Московской губернии в семье псаломщика Павла Виноградова. В 1901 году Иван Павлович окончил Московскую Духовную семинарию и был назначен законоучителем и учителем церковнославянского языка в Спасо-Наливковскую церковноприходскую школу города Москвы. В 1903 году Иван Павлович женился на Марии Федоровне Чертковой и в этом же году был рукоположен во диакона ко храму московского Никитского женского монастыря. В 1905 году он был рукоположен в сан священника и направлен служить в церковь, находившуюся на монастырском хуторе.
Кроме служения в храме отец Иоанн нес и другие церковные послушания. С 1905 по 1917 год он был заведующим и законоучителем Серафимовской церковноприходской школы. С 1910 по 1918 год — законоучителем Пучковского земского училища. С 1911 по 1915 год — председателем Серафимовского Братства трезвости и заведующим народным домом и библиотекой при нем на фабрике братьев Крестовниковых. В 1914–1916 годах — попечителем семейств запасных и председателем комитета о беженцах при той же фабрике. В те же годы он состоял членом Московского уездного отделения епархиального училищного совета.
В 1914 году отец Иоанн тяжело заболел, что потребовало ухода за ним. Духовной дочери, ухаживавшей за ним во время болезни, отец Иоанн написал: «Возлюбленной во Христе Паше Филатовой на молитвенную память от духовного отца и молитвенника. Благодарю за истинно христианский уход во время болезни ноги грешного иерея Иоанна Виноградова. Молись, трудись и терпи, и войдешь в чертоги твоего возлюбленного Жениха, Господа Иисуса Христа». В 1919 году священник тяжело заболел сыпным тифом и был помещен в больницу при фабрике братьев Крестовниковых. Хотя он и выздоровел, но болезнь впоследствии давала о себе знать слабостью сердца и расширением вен на ногах. В 1919 году отец Иоанн был награжден наперсным крестом, а в 1921 году возведен в сан протоиерея. В 1922 году протоиерей Иоанн был назначен настоятелем Никольской церкви села Чашниково Московского уезда. С 1922 по 1924 год он состоял членом благочиннического совета, а с 1924 года — благочинным 3-го округа Московского уезда и членом Московского епархиального совета при Святейшем Патриархе Тихоне.
Всё усиливающиеся гонения приводили священника к мысли о неизбежности ареста и страданий, и отец Иоанн в декабре 1927 года заранее написал и носил при себе записку, которую бы нашли в случае ареста и смерти на этапе: «Адрес мой и местожительство: Савеловская ж. д., станция Хлебниково, село Павельцово. Протоиерей Иван Павлович Виноградов. 48 лет. Довести до сведения родных, если в пути что случится трагическое». 25 февраля 1930 года в связи с деятельностью отца Иоанна как благочинного власти арестовали его, обвинив в том, что он «организовал вокруг себя окрестное духовенство, собирал нелегальные совещания у себя на квартире, на которых инструктировал духовенство в его антисоветской деятельности».
На допросах отец Иоанн не согласился с лжесвидетельствами о себе и сказал: «Предъявленное мне обвинение в антисоветской агитации считаю результатом оговора лиц, недоброжелательно по отношению ко мне настроенных. Заявляю: никогда и нигде против советской власти не говорил. Все читаемые мною проповеди носят исключительно религиозный характер, и ничего антисоветского в них нет. С прихожанами имею общение только церковного характера». 22 марта 1930 года Тройка ОГПУ приговорила отца Иоанна к трем годам ссылки в Архангельск.
По возвращении в 1934 году отца Иоанна из ссылки епископ Орехово-Зуевский, викарий Московской епархии, Иоанн (Широков) назначил его настоятелем Никольского храма в селе Вышелец. В том же году протоиерей Иоанн был награжден митрой.
Отец Иоанн был человеком необыкновенной кротости и смирения, никогда не повышал голоса, но со своими детьми бывал строг в тех случаях, когда они этого заслуживали, когда шалости обращались в проступки. В обращении с прихожанами он был бессребреником и принципиально не брал денег за требы. Люди помогали ему кто чем мог, чаще всего продуктами, так как сами были бедны и деньги мало у кого в то время были. Однажды его позвали к умирающему довольно далеко от села, где жил священник. За ним прислали лошадей, и он поехал. Исповедал и причастил умиравшего, но обратно ехать на лошадях отказался: «Завтра лошади вам самим в хозяйстве будут нужны, а я домой потихоньку пешком дойду».
Время было уже вечернее, дорога шла густым старым лесом. Вечер быстро перешел в ночь, и в лесу стало непроглядно темно. Пока светила луна, он еще как-то различал, куда идти, но когда луна скрылась, дороги не стало видно, и отец Иоанн заблудился. Долго он ходил, высматривая, не мелькнут ли между деревьев крыши деревенских домов или купол храма. Но сколько ни шел, сколько ни высматривал — ничего не было видно, а чем дальше, тем становилось все холоднее. Устав, отец Иоанн присел отдохнуть и увидел, что рядом, совсем недалеко от него, сидит на пне старец, весь в белом. Старец спросил его:
— Ты что ищешь, отче?
— Ищу свой храм, дом свой ищу. Заблудился я, отец.
— Что же ты ищешь, вон — прямо перед тобой твоя церковь-то.
Глянул отец Иоанн, присмотрелся, и действительно, он недалеко был от храма. Хотел он поблагодарить старца, оглянулся, но того уже не было. Придя домой, он первым делом отслужил благодарственный молебен святителю Николаю, в честь которого был освящен храм. 27 ноября 1937 года власти вновь арестовали священника и заключили в Бутырскую тюрьму в Москве. Он был обвинен в проведении подрывной антисоветской деятельности. Протоиерей Иоанн категорически отверг все возводимые на него обвинения.
5 декабря 1937 года Тройка НКВД приговорила священника к расстрелу. Протоиерей Иоанн Виноградов был расстрелян 9 декабря 1937 года и погребен в безвестной общей могиле на полигоне Бутово под Москвой.
