Родился 22 апреля 1908 г. (9 апреля 1908 г. по старому стилю) в д. Вырица Царскосельского уезда Санкт-Петербургской губернии Российской империи (ныне - поселок городского типа в Гатчинском районе Ленинградской области РФ). Однако в метрической книге пос. Суйда Царскосельского уезда датой его рождения указано 23 апреля (10 апреля ст. ст.) 1908 г. Отец Антип (Антон) Харитонович Ефремов был зажиточным лесопромышленником, имел чин титулярного советника. Мать - Варвара Александровна Ефремова (урожденная Ананьина) - была домохозяйкой.
В первой половине 1920-х гг. Иван Ефремов поступил в Ленинградский университет на биологический факультет, обучение на котором осталось незавершенным. В 1935 г. с отличием окончил геологоразведочный факультет Ленинградского горного института (ныне - Санкт-Петербургский горный университет), сдав экзамены экстерном.
Кандидат (1935), доктор биологических наук (1941, тема диссертации - "Фауна наземных позвоночных средних зон перми СССР"). Профессор (1943).
В 1917 г. родители Ивана развелись. Мать увезла его с младшим братом и сестрой в Херсон, где оставила на попечение родственницы.
В 1920 г. мальчик вместе с 6-й авторотой Рабоче-крестьянской Красной армии прошел от Херсона до Перекопа, участвовал в освобождении Крыма от белогвардейцев.
В 1921 г. вернулся к отцу в Петроград (ныне - Санкт-Петербург), где поступил в школу второй ступени, которую окончил в 1923 г. Далее учился на штурмана каботажных судов, подрабатывал грузчиком и шофером. В 1925 г. командовал катером лоцманской дистанции на Каспийском море.
С 1923 г. начал серьезно заниматься палеонтологией, которой интересовался с детства. С 1925 г. участвовал в научных орнитологических и палеонтологических экспедициях Геологического музея Академии наук (АН) СССР (ныне - Российская академия наук) в Закавказье, Средней Азии, Восточной Сибири, на Дальнем Востоке. Работал препаратором под руководством профессора этого музея, академика АН СССР Петра Сушкина.
С 1929 г. - научный сотрудник Геологического музея. В 1930 г. на базе остеологического отдела этого музея и Северодвинской палеозоологической галереи был образован Палеозоологический институт АН СССР. В 1935 г. институт был включен в состав Института эволюционной морфологии и палеозоологии (ИЭМП) и переехал в Москву. Иван Ефремов также перебрался в столицу.
В 1936 г. при разделении ИЭМП был создан Палеонтологический институт АН СССР, в котором Ефремов в период с 1937 г. по 1959 г. занимал пост заведующего лабораторией низших позвоночных.
В 1946-1949 гг. работал начальником Монгольской палеонтологической экспедиции АН СССР.
Иван Ефремов заложил основы тафономии - раздела палеонтологии, изучающего закономерности процессов естественного захоронения организмов и образования местонахождений ископаемых остатков этих организмов. Автор более 100 научных работ, в т. ч. трех монографий: "Bentosuchus sushkini Efr. – лабиринтодонт из эотриаса р. Шарженги" (1940), "Тафономия и геологическая летопись" (1950), "Фауна наземных позвоночных в пермских медистых песчаниках Западного Приуралья" (1954).
Также ученый известен своими литературными произведениями. Он оказал значительное влияние на расцвет советской научной фантастики в 1960-х гг. Начав со сборников научно-фантастических и приключенческих новелл "Встреча над Тускаророй" (1944) и "Белый рог" (1945), со временем он перешел к фантастике большой формы. Ефремова интересовал в первую очередь "общечеловеческий смысл" возможной реализации той или иной фантастической идеи. Квинтэссенцией его социально-философских размышлений стали роман- утопия "Туманность Андромеды" (1957) и антиутопия "Час Быка" (1968). Другие произведения писателя - исторические повести "На краю Ойкумены" (1949) и "Путешествие Баурджеда" (1953), приключенческий роман "Лезвие бритвы" (1963), исторический роман "Таис Афинская" (1973), художественно-документальная книга воспоминаний об экспедициях "Дорога ветров" (1956).
Роман "Туманность Андромеды" в 1967 г. экранизировал советский кинорежиссер Евгений Шерстобитов.
Иван Ефремов умер 5 октября 1972 г. в возрасте 64 лет. Похоронен в пос. Комарово (Ленинградская обл., ныне - в составе Санкт-Петербурга).
Был дважды удостоен ордена Трудового Красного Знамени (1945 - за заслуги в палеонтологии, 1967 - "за заслуги в развитии советской литературы и активное участие в коммунистическом воспитании трудящихся").
Лауреат Сталинской премии II степени (1952, за монографию "Тафономия и геологическая летопись").
Был трижды женат. Первая супруга - Ксения Николаевна Свитальская, сотрудница Палеонтологического института АН СССР; брак был недолгим. В 1936-1961 гг. был женат на Елене Доментьевне Конжуковой, также работавшей в Палеонтологическом институте. Третья супруга - Таисия Иосифовна Юхневская (род. в 1929 г.). Сын от второго брака - Аллан (род. в 1936 г.), геолог, сотрудник института "Гидропроект".