В 1893 году он завершил обучение в Ярославской духовной семинарии. Четыре года спустя он получил диплом, а затем преподавал историю и педагогику в Петербургской духовной академии, где впоследствии стал профессором.
С 1912 по 1916 год он занимал должность профессора кафедры всеобщей истории на Высших женских курсах в Петербурге.
С 1916 года он работал как преподаватель историко-филологического факультета Пермского отделения Петроградского университета. С 1917 года он продолжил свою карьеру в Пермском университете, где вначале был заведующим кафедрой истории.
С сентября 1921 года он занимал пост декана факультета общественных профессий.
С января по сентябрь 1922 года он занимал должность первого декана педагогического факультета Пермского университета.
А. П. Дьяконов в течение 13 лет работы в Пермском университете подготовил и провел более десятка лекционных курсов и разработал новые спецкурсы и спецсеминары. Его основными курсами были лекции по истории раннего христианства, истории Византии, античной культуре и истории Средних веков. Он также внес значительный вклад в организацию образования в области истории в новых условиях.
С 1917 по 1930 год он занимал должность председателя Общества истории, философии и социальных наук при университете в Перми.
Особая заслуга в судьбе Пермского университета принадлежит А. П. Дьяконову, который в то время уже руководил кафедрой всеобщей истории Пермского пединститута. После разделения университета на пять новых вузов в 1930 году, именно ему в 1931 году была поставлена задача ректором С. А. Стойчевым обосновать возможность восстановления университета.
"Согласно распоряжению НКП о спешном представлении материалов по организации в Перми университета, поручаю профессору Дьяконову А. П. составить на основании имеющихся материалов подробную докладную записку с обоснованием возможности открытия университета в Перми."
В период с 1930 по 1932 годы он руководил кафедрой всеобщей истории в Пермском педагогическом институте, а затем в Рязанском педагогическом институте. После закрытия исторического факультета в Рязани в 1933 году он принял работу в Новозыбковском педагогическом институте.
С 1934 года Дьяконов работал как профессор в Смоленском педагогическом институте. В период с 1938 по 1941 годы он был заведующим кафедрой всеобщей истории в том же учебном заведении. В течение своей работы в Смоленске Дьяконов написал несколько научных статей по истории античности, Византийской империи и известиям сирийских авторов о славянах VI-VII веков. К 1937 году он подготовил фундаментальную монографию с названием "Восстание рабов в Сицилии во второй половине II в. до н.э.", за которую ему была присвоена степень доктора исторических наук в 1940 году.
Во время оккупации Смоленска нацистами скончался и был захоронен на Польском кладбище.
