Рожденный в Москве, он происходил из древнего купеческого рода. Получив образование в уездном училище, он затем занялся коммерцией и служил приказчиком в Калуге.
С детства он испытывал желание посвятить себя духовной жизни, однако его мать не разрешала ему идти в монастырь.
В 1885 году после смерти жены приехал в Оптину пустынь калужский приказчик Александр Потапов. Он был тридцатилетним. Вскоре его благословили быть келейником у старца Амвросия. Преподобный Анатолий уже тогда открыл у него чудесный дар любви, сострадания и прозорливости. 23 апреля (5 мая) 1888 года в скитской церкви послушник Александр был пострижен в рясу.
В мантию с наречением имени Анатолий был пострижен 3 (15) июня 1895 года.
11 апреля 1906 года он был освящен на иеромонаха и назначен духовником Казанской Амвросиевской женской пустыни в Шамордине. Он исполнял свой духовный обязанности в этом месте до своей смерти.
Преподобный Анатолий имел шанс покинуть Оптину пустынь, однако он настоятельно отказался, твердо намереваясь остаться в монастыре "до тех пор, пока не будут прогнаны".
После того, как старец был арестован впервые, он вернулся в свою обитель в очень плохом состоянии, но с улыбкой на лице и словами благодарности к Богу, не осуждая никого.
В 1921 году настоятель монастыря, преподобный Исаакий, предложил Старцу принять схиму. Во время церемонии преподобный Анатолий был в таком состоянии слабости, что не мог даже сам держать свечу и произносил схимнические обеты едва слышным голосом. Однако после того, как он принял схиму, его состояние улучшилось, и он начал понемногу поправляться, начал есть и подниматься с постели.
В 29 июля/11 августа 1922 года старец был вновь арестован. Он не оказал сопротивление, но попросил конвоиров прийти за ним на следующий день, чтобы "подготовиться". Увидев его преклонный возраст, конвоиры согласились. Преподобный Анатолий провел всю ночь в молитве, и наутро его нашли коленопреклоненным и бездыханным.
27 июня/10 июля 1998 года были обретены мощи преподобного Анатолия Оптинского, которые в настоящее время находятся в храме-усыпальнице, посвященном Владимирской иконе Божией Матери.