Родился 8 сентября 1920 года, в Москве.

Житель Арбата, он с детских лет был влюблён в Театр Вахтангова, еще подростком став зрителем его легендарных спектаклей.

А.К. Граве пришёл в Школу Вахтанговского театра (на курс к ученице Е.Б. Вахтангова — А.А. Орочко) 18-летним юношей, и в 1942 году , был принят в труппу Театра имени Евгения Вахтангова.

В первые годы Великой Отечественной войны вместе с Театром уехал в эвакуацию в Омск. В 1942 году вошёл в состав Фронтового филиала Вахтанговского театра, прикреплённому к Первому Украинскому фронту, А. К. Граве прошёл всю войну, дойдя до Берлина. Награждён Орденом Красной Звезды, а к 50-летию Победы – орденом Отечественной войны II степени.

Побывав в гуще войны, сумел в кино правдиво и убедительно изобразить трогательного недотёпу – красноармейца Огурцова («Беспокойное хозяйство»), полковника в «Хронике пикирующего бомбардировщика», запомнился в фильме «Друзья и годы». В Театре Вахтангова такой «фронтовой» ролью стал горячий, молодой офицер Орлик в спектакле «Фронт».

В его послужном списке более 150 ролей.  Обладая открытой обаятельной  внешностью, он играл и героев, и и характерные роли.

Первой послевоенной крупной работой стал Ераст в пьесе А.Н. Островского «Сердце не камень». Граве покорил разнообразием красок и интонаций, изображая самоуверенного, подловатого, соблазняющего наивную женщину Ераста. Среди других ролей того периода – героический молодогвардеец Ваня Земнухов («Молодая гвардия»), педант адвокат Ганефельд в «Перед заходом солнца», Розенкранц в «Гамлете», поставленном Б.Е. Захавой.

Он был запоминающимся Тартальей в «Принцессе Турандот» (1963), хотя конкурировать в этой роли приходилось с самим Н.О. Гриценко. Выходил на сцену в этом образе до 1999 года. Изящный, сухощавый, с хорошей осанкой, играл Кристиана в знаковом спектакле «Сирано де Бержерак» спустя годы после премьеры; именно он принимал участие в юбилейном исполнении, посвящённом переводчице Т.Л. Щепкиной-Куперник. Он сыграл роль Лепорелло в «Маленьких трагедиях» после Н.С. Плотникова, был забавным и трогательным. Много лет исполнял эту роль, сам ввёл на Дон Гуана В.С. Ланового, и их дуэт долгие годы вызывал восторженный приём публики. Меньше чем через год после премьеры в «Дамах и гусарах» с блеском сыграл роль Гжегожа. Для этого спектакля Граве, обладавший даром легко и изящно складывать стихотворные строки, написал тексты куплетов, как и для «Мещанина во дворянстве».

Большой актёрской удачей стала 38-летнего артиста роль циничного сластолюбца Тоцкого в «Идиоте», сыгранная жёстко, точно, выпукло. А в «Западне» он появлялся в роли смешного пьяницы по прозвищу Солёная Глотка и тоже запоминался надолго. Характерные роли необыкновенно удавались ему, давали толчок его фантазии, он сам режиссировал их, находя яркие, выразительные детали. Таким стал Учитель философии в «Мещанине во дворянстве», сцену из которого вместе с В.А. Этушем он часто играл и на эстрадных подмостках.

В ролях сказочных королей в «Золушке» и в «Коте в сапогах» Александр Константинович был очарователен . Сыграл немало значительных ролей и в классике: Ефроний в «Антонии и Клеопатре», король Эдуард в «Ричарде III», Доктор в «Воскрешении, или Чуде святого Антония», Головастиков в «Варварах», Вафля в «Лешем».

Одной из важных работ стала роль Казангапа в инсценировке романа Ч.Т. Айтматова «И дольше века длится день…». Мудрый друг главного героя Едигея, чью роль исполнял М.А. Ульянов, был сыгран строго и проникновенно.

Дисциплинированный, собранный, обладавший от природы блестящей памятью, он всю жизнь спасал Театр – заменял коллег в случае болезни. Называл себя «палочкой-выручалочкой». Очень часто после ввода, планового или экстренного, становился полноправным исполнителем роли.

Еще в конце 1940-х годов А.К. Граве впервые обратился к театральной педагогике, вновь вернулся в Театральное училище имени Щукина в 1986 году, стал педагогом кафедры мастерства актёра, профессором. Выпустил два курса в качестве руководителя: основной актёрский курс и Коми-Пермяцкую студию.

Был ассистентом режиссёра А.И. Ремизовой, самостоятельно поставил в 1958 году спектакль «После разлуки». Наделённый многими талантами, писал стихи, сочинял ценимые вахтанговцами капустники, резал по дереву, оформил два спектакля Фронтового филиала в качестве художника.

До последних дней служения Театру он получал новые роли: Ферапонт («Царская охота», 2002); помощник режиссёра Антуан («Фредерик, или Бульвар преступлений», 2003); Сенект («Калигула», 2004); граф Лудовико («Собака на сене», 2006). Ему довелось поработать и с новым художественным руководителем Театра Римасом Туминасом – в возрасте 88 лет сыграл Нестора в «Троиле и Крессиде».

Александр Константинович Граве ушел из жизни 5 марта 2010 года. Похоронен на четвёртом участке Алексеевского кладбища столицы.