Родился в городе Москва, Советская Россия. Заслуженный артист РСФСР (1957).Народный артист РСФСР (1971). В 1942 году окончил Театральное училище имени Щукина, курс Анны Орочко. В том же году был принят в труппу театра имени Вахтангова. Прошёл почти всю войну во фронтовом филиале Вахтанговского театра. Форсировал Днепр, получил орден, победу встретил в Берлине. А потом вновь вышел на подмостки родного театра.Сыграл около 50 ролей в кино, исполнитель небольших характерных ролей. Герои Александра Граве - люди интеллигентные, благородные, мудрые. Наиболее известная роль - Огурцов в военной комедии «Беспокойное хозяйство».В его жизни было и радио, и телевидение, и мультипликация, и Щукинское училище (преподавал с 1986 года; профессор, 1998).Выпустил два курса в качестве художественного руководителя: в 1992 году - Коми-пермяцкую национальную студию и в 2000 году - актёрский курс (ученики - Ю. Колокольников, Н. Швец, Д. Белых, Л. Тихомирова, К. Иванченко). Кинематограф же больше использовал внешние данные Александра Граве, данные истинного интеллигента - его мягкие черты, мудрые глаза, слегка ироничные нотки. Ушёл из жизни в Москве после продолжительной болезни. Похоронен 9 марта на четвёртом участке Алексеевского кладбища столицы.