Родился 20 ноября 1929 г. в Баку (Закавказская СФСР, СССР; ныне Азербайджан). Его отец был кадровым офицером, мать - инженером-автодорожником.
После начала Великой Отечественной войны, в 12 лет, Валерий Грайфер убежал с другом на фронт, однако оттуда его вернули домой.
В 1952 г. окончил Московский нефтяной институт им. И. М. Губкина (ныне Российский государственный университет нефти и газа). В 1976 г., заочно, - Институт народного хозяйства (ныне - Российский экономический университет им. Г. В. Плеханова).
Кандидат технических наук (1967).
В 1952 г. поступил на работу в производственное объединение "Татнефть" помощником мастера по добычи нефти. В 1956 г. был назначен начальником добычи нефти и газа - заместителем главного инженера объединения.
В 1957-1962 гг. работал начальником отдела добычи управления нефтяной промышленности Совета народного хозяйства Татарской АССР.
В 1962-1964 гг. возглавлял трест "Татнефтегаз".
В 1964-1972 гг. был заместителем начальника ПО "Татнефть".
В 1972 г. возглавил планово-экономическое управление Министерства нефтяной промышленности СССР.
В 1985-1990 гг. занимал должность заместителя министра нефтяной промышленности СССР, одновременно до 1989 г. был начальником Главного Тюменского производственного управления по нефтяной и газовой промышленности.
В 1990-1991 гг. был заместителем председателя Научно-технического совета Миннефтепрома СССР.
В 1992 г. Валерий Грайфер перешел на работу в "Лукойл", став исполнительным директором по научно-техническому прогрессу и экологии. В 1996 г. вошел в состав совета директоров компании, в 2000 г. возглавил совет. В марте 2020 г. было объявлено, что Валерий Грайфер не вошел в список кандидатов в новый состав совета директоров нефтяной компании. Пост председателя совета он должен был покинуть в июне 2020 г.
Одновременно с марта 1992 г. был генеральным директором нефтесервисной Российской инновационной топливно-энергетической компании. После того, как она была выкуплена "Лукойлом", в 2010 г. стал председателем совета директоров РИТЭК.
Был членом совета попечителей РГУ нефти и газа им. Губкина.
Почетный нефтяник СССР (1979), заслуженный работник нефтяной и газовой промышленности РСФСР (1967)
Был награжден орденами Ленина (1971), Трудового Красного Знамени (1966), "Знак Почета" (1959), Дружбы (1996), "За заслуги перед Отечеством" III и IV степеней (2007, 1999), Александра Невского (2014). Отмечен Почетной грамотой президента РФ (2009).
Лауреат Ленинской премии (1976).
Валерий Грайфер был автором около 100 научных публикаций и 40 изобретений. Автор книг "Малый и средний бизнес в нефтяной промышленности России" (2000), "Разработка малопродуктивных нефтяных месторождений" (2001, в соавторстве).
У него остались две дочери.