Родился 5 августа 1924 г. в Москве в семье Ильи Осиповича и Розы Моисеевны Рубиных. Отец и мать были врачами.
В подростковом возрасте посещал занятия в Центральной музыкальной школе при Московской государственной консерватории (МГК) им. П. И. Чайковского.
После начала Великой Отечественной войны ушел добровольцем в армию. Был определен в учебно-стрелковый полк в Фергане (Узбекская ССР, ныне - Узбекистан). В 1943 г. демобилизован по болезни.
В 1944 г. поступил в МГК им. П. И. Чайковского. Занимался по классу фортепиано под руководством Александра Гольденвейзера и его ассистентки Лии Левинсон. На первом курсе стал лауреатом студенческого конкурса на лучшее исполнение сонат Людвига ван Бетховена. Окончил консерваторию в 1949 г.
В 1949-1951 гг. вел класс камерного вокального ансамбля в Государственном музыкально-педагогическом институте им. Гнесиных (ныне - Российская академия музыки им. Гнесиных, Москва).
В 1952 г. был принят в Союз композиторов СССР.
Владимир Рубин является автором опер "Три толстяка" (1956, вторая редакция - 1966), "Июльское воскресенье" (1970), "Крылатый всадник" (1980), "Каштанка" (1987), "Сцены из гусарской жизни" (1987) и "Альбом Алисы" (2003).
Автор более десяти кантатно-ораториальных сочинений. Среди них: "Песни ветровые" (1960), "Сны революции" (1964), "Сказание про бабу Катерину и сына ее Георгия" (1976), "Аленушкины сказки" (1983), "Песнь восхождения" (1998), "Будь милостив" (2010) и др.
Создал около двадцати хоровых поэм. В их числе: "Первый снег" (1973), "Сороковые-фронтовые" (1975), "Весенние песни" (1977), "Простые песни" (1981), "Костромушка" (1984), "К радости" (1985), "Аллилуйя" (1997), "Перстень страдания" (2005) и др.
Написал около двадцати симфонических и инструментальных сочинений. Создал ряд произведений для голоса с сопровождением.
Сочинил музыку к спектаклям "Хлеб и розы" по пьесе Афанасия Салынского (1956, Московский государственный театр им. Ленинского комсомола, ныне - Московский государственный театр "Ленком"), "Король Пиф-Паф" по сказке Вадима Коростылева (1957, Московский театр юного зрителя) и др., а также к нескольким десяткам радиопостановок и телеспектаклей.
Автор музыки к кинофильмам "Шли солдаты…" (1958, режиссер Леонид Трауберг), "Алешкина любовь" (1960, Семен Туманов и Георгий Щукин), "Ко мне, Мухтар!" (1964, Семен Туманов), "Сказка о Мальчише-Кибальчише" (1964, Евгений Шерстобитов), "Места тут тихие" (1967, Георгий Щукин), "Жизнь на грешной земле" (1973, Семен Туманов), "Расписание на завтра" (1976, Николай Александрович), "Кровь за кровь" (1991, Юрий Колчеев), "Детство Никиты" (1992, Андрей Зеленов) и др.
Автор ряда музыкально-критических статей.
Заслуженный деятель искусств РСФСР (1977). Народный артист РФ (1995).
Награжден орденом Почета (2004).
Лауреат Государственной премии РСФСР им. М. И. Глинки (1972, за сочинение "Июльское воскресенье"), премии мэрии Москвы в области литературы и искусства (1997).
Женат. Супруга - заслуженная артистка РФ Мария Скуратова (род. 1933). Дочь - художница и литератор Катя Рубина (род. 1964).