Святой Кесарий родился в аристократической, но не очень богатой семье в Галло-Риме. В 17 лет он покинул родительский дом и вступил в клир города Кабиллона, где принял пострижение от епископа Сильвестра. Через два года он принял постриг в известном Леринском монастыре в Южной Галлии. После того, как истощил свое здоровье аскетическими подвигами, Кесарий был вынужден покинуть монастырь и переехать в Арелат (ныне Арль), где был епископом его земляк и, возможно, дальний родственник, Эоний. В 498-499 годах он стал настоятелем мужского монастыря в окрестностях Арля, для которого позже написал "Правила для монахов".
После смерти епископа Эония в 501 году святой Кесарий, хотя не желал этого, был избран епископом Арелата в соответствии с завещанием епископа Эония. В своем новом положении он продолжил свою строгую жизнь, призывая своих прихожан следовать его примеру. Он также щедро подавал милостыню, включая продажу церковной утвари для выкупа пленников.
В 505-506 гг. святитель был выслан в Бордо королем Аларихом II после донесения некоего Лициниана. Там он проповедовал готам-арианам и после возвращения помешал казни Лициниана. В сентябре 506 г. он первый раз провел церковный Собор, созванный в Агате (ныне Агд, Франция) поддержкой Алариха II. После собора он стал фактическим митрополитом Южной Галлии. Кроме того, святитель основал в окрестностях Арелата женский монастырь, настоятельницей которого стала его сестра Кесария Старшая.
В 513 году святой Кесарий был привлечен к суду короля Теодориха Великого из-за продажи церковного серебра на благотворительные нужды. Однако личная встреча святого с королем оказалась благоприятной, и он был оправдан и отпущен с дарами. Житие также описывает чудеса исцеления, произведенные святой Кесарием.
В 529 году святой Кесарийский созывал II Аравсионский собор, в котором приняли участие 14 епископов и приняли 25 правил. Эти правила немного смягчили учение святого Августина о благодати, избегая преувеличенных выражений о почти непостижимой природе благодати и оставляя без комментариев его учение о предопределении.
Святитель был известен своей строгостью в духовной практике, и он следовал аскетическому учению святого Фавста, которого он всегда почитал как святого. В то же время, он находил великое вдохновение в учении блаженного Августина, которого он очень уважал. Его преставление к Господу произошло в канун дня преставления Августина. Согласно его завещанию, он был похоронен в женском монастыре, который он основал недалеко от Арля. Свидетельства утверждают, что после его смерти связанные с ним святыни произвели множество исцелений.
Святой Кесарий был скорее проповедником христианской морали и аскетизма, чем оригинальным догматиком или ученым в богословии. Он основывал свои учения на работах ранних западных церковных писателей, извлекая наилучшее и наиболее полезное для своих слушателей.
Митрополит Кесарий почитается как святой в Сурожской и Корсунской епархиях Русской Православной Церкви.
Он был причислен к святым Православной Церкви в Америке.
