Антоний Ильич Иващенко был рожден в семье православного священника в Шамовке, в Херсонской губернии Российской империи.
После завершения обучения в духовной семинарии города Херсона с 1843 года, он продолжил свое образование, поступив в Киевскую духовную академию в 1849 году.
5 июля 1853 года была проведена церемония пострижения в монахи для Антония Ильича Иващенко, который принял имя Арсений.
21 июля 1853 года произошло рукоположение Арсения во иеродиакона, а уже 16 августа того же года он был рукоположен в иеромонахи. А 7 октября он был назначен инспектором Одесского духовного училища.
14 июня 1854 года он был назначен преподавателем в Волынской духовной семинарии.
В 1859 году преподаватель был переведен в Воронежскую духовную семинарию.
В 1863 году он был назначен инспектором семинарии и получил сан игумена.
В 1868 году он был назначен ректором Полоцкой духовной семинарии и получил звание архимандрита.
В 1872 году он был выбран в числе членов Комитета духовной цензуры в столице Российской империи, городе Санкт-Петербурге.
В 1886 году он был назначен настоятелем Московского Ставропигиального Заиконоспасского монастыря, где он успешно занялся изучением греческих рукописей Московской Синодальной библиотеки.
C 2 декабря 1889 года он стал членом Московской Синодальной Конторы.
30 мая 1893 года в Исаакиевском соборе города Санкт-Петербурга архимандрит Арсений принял посвящение в епископа Каширского, который стал викарием Тульской епархии.
С 18 декабря 1893 года он был назначен епископом Кирилловским и стал викарием Новгородской епархии.
Литературные труды отца Арсения весьма обширны и главным образом посвящены истории православной церкви на Ближнем Востоке и на берегах Средиземного моря. Многие из них были опубликованы в русскоязычных духовных журналах, таких как "Журнал министерства народного просвещения" и "Киевская старина".
В течение 1869-1871 годов были опубликованы две книги под названием "Летопись церковных событий". Это был обзор всех значительных событий в истории церкви, начиная от Рождества Христова и до 1879 года (во втором издании). Для написания книги автор использовал не только опубликованные материалы, но и рукописи из архива Святейшего Синода.
Епископ Арсений был принят в число почетных членов Казанской духовной академии в 1897 году.
Его обширные знания в различных областях науки вызвали восторженный отклик в печати: "Он внес такой вклад в изучение истории Церкви, что его достижения хватило бы для завоевания научной репутации двадцати епископам" (Новая Энциклопедия Слов Брокгауза. Том III, с. 728).
18 февраля 1903 года в Новгороде произошло кончина.
