Родился 14 июня 1871 г. (по старому стилю 2 июня 1871 г.) в станице Егорлыкская (Область войска Донского, Российская империя, ныне на территории Егорлыкского района Ростовской обл. РФ) в казачьей семье.
Окончил церковно-приходскую школу. В 1885-1887 гг. работал в учебно-слесарной мастерской при двухклассном начальном училище станицы Егорлыкской, где освоил основы профессии оружейника под руководством Александра Чернолихова - конструктора шестилинейной казачьей винтовки образца 1859-1860 гг. В 1887-1891 гг. обучался в Новочеркасской военно-ремесленной школе. В 1900 г. окончил Новочеркасское казачье юнкерское училище, в 1907 г. прослушал годичный курс в Офицерской стрелковой школе в Ораниенбауме под Петербургом.
Доктор технических наук (1940, без защиты диссертации).
В 1891 г. был направлен оружейным мастером в 12-й Донской генерал-фельдмаршала князя Потемкина-Таврического казачий полк, дислоцированный в г. Радзивилов Волынской губернии (ныне г. Радивилов, Ровненская обл. Украины).
В 1896-1898 гг. преподавал оружейное дело в Новочеркасской военно-ремесленной школе. После окончания казачьего юнкерского училища в 1900 г. был произведен в чин хорунжего, назначен заведующим оружием в 12-м Донском казачьем полку.
В 1907 г., во время учебы в Ораниенбауеме, Федор Токарев на базе винтовки Мосина образца 1891 г. разработал автоматическую винтовку (в 1910 г. она получила премию Артиллерийского комитета Военного министерства).
В 1908-1914 гг. был прикомандирован к Сестрорецкому оружейному заводу (до 2009 г. - Сестрорецкий инструментальный завод им. С. П. Воскова, ныне арендная площадка "Восков Технопарк", Санкт-Петербург). Работая на заводе, совершенствовал свою автоматическую винтовку.
В ходе Первой мировой войны с августа 1914 г. по январь 1916 г. в звании есаула находился в действующей армии. Служил полковым казначеем, затем - командиром сотни 29-го Донского казачьего полка на Западном и Юго-Западном фронтах, участвовал в боевых действиях под Варшавой и в Галиции. Был дважды ранен, получил пять боевых наград.
В 1916 г. вернулся на Сестрорецкий оружейный завод, где заведовал отделом поверки и сборки готовых изделий, разрабатывал и внедрял новые технологии оружейного производства.
После Октябрьской революции 1917 г. - начальник образцовой мастерской завода, помощник главного инженера, помощник директора предприятия.
Летом 1919 г. был откомандирован в Ижевск для восстановления Ижевского оружейного завода (ныне в составе концерна "Калашников"), разрушенного в боях между Рабоче-крестьянской Красной армией и Русской армией адмирала Колчака. На заводе удалось в краткие сроки наладить производство винтовок Мосина, однако качество продукции уступало дореволюционным экземплярам. Федор Токарев был арестован и 30 августа 1920 г. приговорен революционным трибуналом к расстрелу за саботаж и вредительство. Вскоре высшая мера наказания была заменена 15 годами тюрьмы, а после обжалования приговор отменили. Летом 1921 г. Токарев был освобожден из тюрьмы и вернулся на Ижевский оружейный завод.
В 1921-1941 гг. работал на Тульском оружейном заводе конструктором-оружейником, начальником опытной оружейной мастерской. Неоднократно побеждал на открытых конкурсах по разработке стрелкового оружия. В числе сконструированных им образцов - ручной пулемет МТ ("Максима - Токарева", 1925, на основе станкового пулемета Максима), первый советский пистолет-пулемет (пистолет-пулемет Токарева, 1927), самозарядный пистолет ТТ ("Тульский, Токарева", 1930), самозарядная винтовка СВТ-38 (1938), ее модификация СВТ-40 (1940) и др.
С началом Великой Отечественной войны 1941-1945 гг. Федор Токарев был эвакуирован вместе с остальным персоналом проектно-конструкторского бюро ручного оружия (ныне КБ приборостроения им. академика А.Г. Шипунова, Тула) и оборудованием завода на Урал, где руководил оружейной мастерской завода №66 в Златоусте (Челябинская обл.).
В 1943 г. по состоянию здоровья переведен в Москву, в ОКБ-16 (ныне КБ точного машиностроения им А. Э. Нудельмана), руководил специальной лабораторией. Всего за годы конструкторской работы Федор Токарев создал порядка 150 образцов стрелкового вооружения, серийно производившихся в СССР и других странах мира миллионами экземпляров.
В 1946 г. перешел на административную работу. Проживал в Москве.
Умер 7 июня 1968 г. в Москве в возрасте 96 лет. Похоронен на Всехсвятском кладбище Тулы.
Депутат Верховного Совета СССР I и II созывов (1937-1950).
Капитан Русской императорской армии (1916).
Герой Труда (1928), Герой Социалистического Труда (1940), лауреат Сталинской премии I степени (1940). Был награжден четырьмя орденами Ленина (1939, 1940, 1946, 1966), орденами Суворова II ст. (1944), Отечественной войны I ст. (1945), двумя орденами Трудового Красного Знамени, орденом Красной Звезды (1931), медалями. Отмечен личной благодарностью Председателя Государственного Комитета обороны Иосифа Сталина.
Имел награды Российской империи - орден Святого Владимира IV ст. с мечами и бантом, орден Святого Станислава II ст. с мечами, орден Святой Анны III ст. с мечами и бантом, орден Святого Станислава III ст. с мечами и бантом, орден Святой Анны IV ст. с надписью "За храбрость".
Почетный гражданин г. Тула.
Был женат на Доминике Федоровне Токаревой (1871-1926). Сын - Николай Токарев (1899-1972), также был конструктором-оружейником.
Федор Токарев увлекался фотографией и конструированием фототехники. В 1948 г. разработал панорамную фотокамеру ФТ, которая затем, несмотря на ряд недостатков, малой серией выпускалась на Красногорском механическом заводе.