Родился 22 августа 1901 г. в с. Шостке Глуховского уезда Черниговской губернии Российской империи (ныне г. Шостка в Сумской обл. Украины) в семье рабочего Шосткинского порохового завода и портнихи. С детства увлекался рисованием.
В 1918 г., будучи студентом химического отделения шосткинского политехникума, создал свою первую архитектурную работу - деревянный обелиск вождям революции в городском сквере (был уничтожен через несколько месяцев во время занятия села немцами, оккупировавшими Украину по Брестскому договору).
В 1921 г. добровольцем зачислился в Красную армию, где проявил себя при создании агитационных плакатов. В 1923 г. по рекомендации командования отправился получать художественное образование в Москву и поступил на архитектурное отделение Высших художественно-технических мастерских (ВХУТЕМАС). Учился сначала у Николая Докучаева, затем у Алексея Щусева.
Во время учебы занимался оформлением ряда спектаклей, писал портреты. Первой реальной архитектурной практикой в 1927 г. для Дмитрия Чечулина стало восстановление фабричных зданий в Твери.
В 1930 г. окончил Высший художественно-технический институт (был создан на базе ВХУТЕМАС), по распределению был направлен в Проектгражданстрой, затем перешел в Государственный институт проектирования городов. В начале 1930-х гг. совместно с архитектором Николаем Гофманом-Пылаевым реализовал проекты больниц в Брянске, Самаре, Москве. Также по его проекту была создана Воронежская областная клиническая больница, которая была уничтожена в годы Великой Отечественной войны, ее руины были сохранены как памятник (их название в обиходе - "Ротонда").
В 1931 г. вместе с Анатолием Жуковым участвовал в первом конкурсе на строительство Дворца Советов в Москве, их проект был одним из немногих решенных в духе неоклассики и получил одну из первых премий. Впоследствии Чечулин стал одним из главных представителей т. н. сталинского ампира.
В 1933 г. Алексей Щусев, возглавивший Проектную мастерскую №2, созданную для разработки Генерального плана реконструкции Москвы (Сталинский генплан), пригласил к себе на работу Чечулина в качестве бригадира. Параллельно Чечулин прошел обучение во Всесоюзной академии архитектуры, в качестве аспиранта был направлен на обучение за границу.
Во второй половине 1930-х гг. под руководством Дмитрия Чечулина были созданы вестибюли и подземные залы первых станций Московского метрополитена - "Комсомольской" и "Киевской" (1937). Также среди его довоенных проектов - павильон "Московская, Тульская и Рязанская области" на Всесоюзной сельскохозяйственной выставке (ныне павильон №59 "Зерно", ВДНХ), ряд жилых домов на Кутузовском и Ленинском проспектах. В 1940 г. по его проекту был достроен Концертный зал им. П. И. Чайковского Московской филармонии, который ранее проектировался как театр Всеволода Мейерхольда.
В 1939 г. Дмитрий Чечулин стал начальником управления проектирования Моссовета.
После начала Великой Отечественной войны в 1941 г. работал над проектами маскировки Москвы от налетов немецкой авиации.
В 1943 г. создал один из первых мемориальных объектов Великой Отечественной войны - путепровод Ленинградского шоссе над Московской кольцевой железной дорогой. В 1944 г. вместе с Михаилом Посохиным и Ашотом Мндоянцем разработал проект надстройки бывшего дома генерал-губернатора на Тверской улице (ныне здание мэрии Москвы).
В 1945-1950 гг. Дмитрий Чечулин занимал пост главного архитектора Москвы. При нем был утвержден план строительства в столице высотных зданий. Сам Чечулин создал проекты одной из этих высоток - 32-этажного жилого дома на Котельнической набережной (1952) и нереализованного 52-этажного небоскреба в Зарядье.
В 1949-1981 гг. был руководителем мастерской №20 "Моспроекта-1".
Во второй половине 1950-х гг. под руководством Дмитрия Чечулина был завершен ансамбль площади на пересечении Большой Садовой и Тверской улиц в составе гостиницы "Пекин" и памятника поэту Владимиру Маяковскому.
В 1960 г. по проекту Чечулина котлован для недостроенного Дворца Советов был использован для открытого бассейна "Москва".
В 1967 г. в Зарядье вместо высотного здания по новому проекту Чечулина была возведена гостиница "Россия" - на тот момент крупнейшая в мире, в ней насчитывалось 2,7 тыс. номеров (снесена в 2006 г.).
Последний реализованный проект - Дом советов РСФСР на Краснопресненской набережной (1981, ныне Дом правительства РФ), для которого архитектор использовал свои довоенные наработки для здания "Аэрофлота".
Дмитрий Чечулин скончался 29 октября 1981 г. в Москве на 81-м году жизни. Похоронен на Новодевичьем кладбище.
Герой Социалистического Труда (1976).
Народный архитектор СССР (1971).
Действительный член Академии художеств СССР (1979).
Лауреат Ленинской премии (1984, посмертно, за проект Дома советов РСФСР), трех Сталинских премий (1940, 1949, 1953).
Был награжден двумя орденами Ленина (1947, 1976), орденом Октябрьской Революции (1971), двумя орденами Трудового Красного Знамени (1939, 1957), орденами Дружбы народов (1971) и "Знак Почета" (1939)