образование. Начал службу с 9-летнего возраста в совестном суде Колыванской губернии. С 1795 г. состоял в штате при Тобольском гражданском губернаторе. В 1803 г. был переведен в Петербург, в аппарат Министерства внутренних дел. С 1811 по 1815 год – советник Рязанского губернского правления. Во время Отечественной войны 1812 г. выполнял различные задания, связанные с нуждами армии и Рязанского ополчения и справлялся с этим, как отмечено в формуляре, «с отличным успехом». В 1816 г. Рыхлевский был назначен чиновником особых поручений при наместнике на Кавказе генерале А. П. Ермолове (1777?-1861) и, обладая незаурядными способностями, вскоре стал правителем гражданской канцелярии наместника. В 1817 г. принимал участие в персидском посольстве А. П. Ермолова. В 1818–1820 гг. участвовал в походах против горцев. Во время службы на Кавказе встречался с А. С. Грибоедовым (1795-1829), с 1818 г. занимавшим пост секретаря русской миссии в Персии, а также поддерживал с ним переписку. В 1821 г. А. И. Рыхлевский получил назначение на пост олонецкого губернатора. В качестве губернатора проявил себя как деятель либерального толка, живо интересовавшийся историей и культурой вверенного ему края. Способствовал созыву комиссии по делам олонецких приписных крестьян при горном департаменте Министерства Финансов, деятельность которой в 1825–1827 гг. позволила несколько улучшить положение этой феодально-зависимой категории населения. В 1824 г. А. И. Рыхлевский был переведен губернатором в г. Вятку, вступил в должность 8 декабря . Здесь под его начальством служил отбывавший ссылку А. И. Герцен. Принимал меры к правильному устройству дорог в губернии, по его представлению утверждено положение комитета министров об отмене посадки берез по сторонам дорог и рытья рвов (1828 г.); принимал меры по предупреждению проникновения и распространения холеры на территории губернии (1829 г.), ходатайствовал об учреждении в г. Вятке училища для детей канцелярских служащих (открыто в 1828 г.). Отличался справедливостью в своих действиях. 24 января 1830 г. был назначен директором медицинского департамента Министерства внутренних дел. Умер 3 (15) декабря 1830 года. Похоронен на Волковском православном кладбище.