В 15 лет Александр пришел в Соловецкий монастырь: работал на рыболовной тоне в Савватиевском скиту, а потом стал учеником иконописной мастерской. Архимандрит монастыря, увидев его карандашные рисунки, увез его в главную обитель. Будучи послушником, Александр обучался рисованию и иконописи. На его работы обратили внимание посещавшие Соловки президент Академии художеств Великий князь Владимир Александрович и известный собиратель живописи генерал А.А. Боголюбов, служивший в штабе Петербургского военного округа. Они помогли Александру: ему была выделена стипендия и в 1886 году он приехал в Санкт-Петербург.
За время обучения в Императорской Академии художеств (1888—1892) его творческие достижения были отмечены поощрительными серебряными медалями: двумя малыми и одной большой. За «хорошие успехи в художественных классах» совет Академии удовлетворил его просьбу, и с 1892 года назначил стипендию «как государственному крестьянину». В 1895 году Александр Борисов постигал технику рисунка в мастерской И.И. Шишкина, а через год после его ухода из Академии — у А.И. Куинджи.
Летом 1894 года Александр сопровождал С.Ю. Витте на пароходе «Ломоносов» в поездке по Северу. В его обязанности входили зарисовки гаваней и бухт Мурманского побережья. Он осуществил мечту побывать на Северном Ледовитом океане, после чего стал вынашивать идею высокоширотной художественной экспедиции. Из своей поездки Александр привез около 150 этюдов, часть которых экспонировалась на академической выставке в Петербурге.
В 1900 году Борисов и 8 его спутников отправились на Новую Землю. Экспедиция длилась 14 месяцев, и за это время ему и его товарищам пришлось преодолеть немало трудностей. Они обследовали и наносили на карту берега заливов Чекина, Незнаемый и Медвежий, давая бухтам, проливам, горным вершинам и мысам имена художников, ученых и тех, кто способствовал освоению Севера.
Благодаря Борисову на карте Новой Земли увековечены имена многих русских художников: мысы Шишкина, Куинджи, Крамского,Васнецова, Верещагина, Репина, а также ледник Третьякова.
Путешественники вели метеорологические наблюдения, собирали геологические, ботанические и зоологические коллекции. Одним из главных результатов экспедиции стали сотни эскизов и этюдов, послуживших темой монументальных полотен, созданных по возвращении с Новой Земли.
Работы Александра Борисова, экспонировавшиеся на весенних Петербургских выставках (1900-1905), привлекли внимание ценителей искусства не только в России, но и за рубежом.
В 1902 году по приглашению Венского общества художников он устраивает выставку в столице Австрии. Успех позволил ему провести выставки в Берлине, Гамбурге, Кельне, Дюссельдорфе и Париже. Французское правительство наградило художника орденом Почетного легиона. В 1907 году в Лондоне выставку посетил знаменитый полярный исследователь Фритьоф Нансен и вручил художнику от имени правительств Швеции и Норвегии орден Св. Олафа. А Британское правительство наградило художника орденом Бани.
В 1906 году Александр Борисов принимал активное участие в создании «Северного кружка любителей изящных искусств», участвовал в разработке устава, а затем в организации всех выставок кружка (1905—1919).
В начале 1908 года побывал в США. Выставка его картин в Вашингтоне была проведена в Белом Доме. Борисов стал первым русским художником, принятым президентом США.
Вернувшись в Россию, Александр поселился на родине, близ Красноборска. Здесь были созданы произведения, посвященные не только Арктике, но и Соловкам, Печоре, северодвинским землям. В 1914 году он устраивает в Петербурге крупную выставку.
Кроме живописи Борисов писал путевые очерки. Он пишет о природных богатствах края и о бедственном положении коренного населения. В своих научных докладах и проектах он исследует экономическую жизнь Севера, высказывается о необходимости строительства Северного железнодорожного пути и соединения северных и сибирских рек каналами.
В 1915-16 годах Александр Борисов разрабатывает проект строительства Обь-Мурманской железной дороги, строительство которой было поддержано царским правительством, а также сменившим его после революции Совнаркомом. Однако из-за гражданской войны проект был реализован только через десятки лет.
В 1920-30-е годы Борисов принимал активное участие в разработке проекта железной дороги Обь-Котлас-Сорока. В 1922 году по его инициативе на базе соляного источника недалеко от Красноборска был открыт курорт «Солониха», первым управляющим которого стал сам художник.
Художник ушел из жизни 17 августа 1934 года в своем доме близ Красноборска. Его произведения хранятся в Государственном Русском музее, Государственной Третьяковской галерее, Архангельском областном музее, Вологодской картинной галерее, Ненецком окружном и других музеях России.
Именем Борисова названы улицы в Архангельске и Красноборске, его имя носит полуостров на Новой Земле, продолжает работать основанный им курорт «Солониха».
В Красноборске, на родине художника, сохранился дом, построенный по его собственному проекту. Сейчас в доме находится музей «Дом-усадьба художника А.А. Борисова», а в Архангельске основан музей художественного освоения Арктики, который носит имя Александра Алексеевича Борисова.