Иван Чельцов родился в селе Сосновка Зарайского уезда Рязанской губернии. Его отец, Василий Гаврилович Чельцов, был членом старинного священнического рода. Иван был вторым ребенком в семье, где всего родилось 18 детей, но лишь 8 из них достигли зрелого возраста. Из семерых братьев Иван был старшим и, как и его братья, он окончил Рязанскую духовную семинарию, предварительно отучившись в Рязанском духовном училище.
В 1848 году был принят в учебное заведение - Санкт-Петербургскую духовную академию.
В сентябре 1851 года он был назначен на академическую службу на должность бакалавра по кафедре общей церковной истории, а в ноябре того же года он стал помощником эконома.
В 1856 году было решено, что он будет работать экономом академии.
4 октября 1857 года стал днем, когда он начал преподавать древние истории в церковном учебном заведении.
В 1859 году 14 января, после просьбы, он был снят с должности эконома академии.
6 февраля 1859 года он был назначен экстраординарным профессором за примерное усердие в наставнической должности. В том же году его отправили в Кирилло-Белозерский монастырь за поиском рукописей и старопечатных книг, которые он успешно доставил в академическую библиотеку.
Он принял на себя обязанности по сохранению коллекции старинных рукописей и книг, и продолжал эту работу вплоть до 1867 года.
10 января 1860 года он был повышен до звания ординарного профессора и утвержден Священным Синодом 23 марта 1860 года "в связи с более чем восьмилетним активным трудом" и "глубоким изучением и качественным преподаванием своей специальности".
В 1861 году была установлена связь с первой супругой - Натальей Дмитриевной, дочерью парижского протоиерея Вершинского. Из этого брака родились пять детей: Владимир (р. 1862), Дмитрий (р. 1864), Софья (р. 1866), Анастасия (31 августа 1868 - 5 декабря 1872) и Екатерина (р. 1872). Наталья Дмитриевна скончалась 22 ноября 1872 года.
15 августа 1869 года И.В. Чельцов, действительный статский советник, был назначен помощником ректора академии по церковно-историческому отделению. С того времени он также стал членом Правления и Совета академии.
27 сентября 1870 года в актовом зале Академии произошла защита диссертации по теме "Древние формы символов веры". По решению Святого Синода от 9 октября 1870 года профессор Чельцов был удостоен степени доктора богословия.
С 1872 по 1875 год он занимал должность редактора журнала "Христианское чтение".
В 1875 году состоялся второй брак с Александрой Григорьевной, дочерью протоиерея Смирягина.
Св. Синод подтвердил назначение на звание заслуженного ординарного профессора 24 ноября 1876 года.
Трагически скончался в возрасте 49 лет вследствие разрыва сердца. Его тело похоронено на Никольском кладбище Александро-Невской Лавры, где также покоятся его первая жена Наталья Дмитриевна и дочь Анастасия.
