Родился 20 марта 1960 г. в городе Энгельс Саратовской области в семье военнослужащего и школьной учительницы.
В 1982 г. окончил Военный инженерный институт (ныне Военно-космическая академия) им. А. Ф. Можайского в Ленинграде (ныне Санкт-Петербург) по специальности "космические аппараты" (квалификация - инженер-механик). В 1991-1995 гг. заочно учился в Военной академии им. Ф. Э. Дзержинского (ныне Военная академия Ракетных войск стратегического назначения им. Петра Великого), где получил вторую специальность - инженер-экономист.
С июня 1982 г. служил в инженерно-испытательной части, дислоцировавшейся на космодроме Байконур в Казахстане. Был инженером (1982-1986), старшим инженером (1986-1987) отделения в стартовой команде на 31-й площадке космодрома.
С января 1987 г. - помощник ведущего инженера, с апреля 1993 г. - ведущий инженер, с августа 1994 г. - начальник группы 1382-го военного представительства при Ракетно-космической корпорации "Энергия" (г. Королев, Московская обл.) Управления начальника космических средств Минобороны СССР (в 1992 г. Управление было преобразовано в Военно-космические силы, ВКС, РФ).
В феврале 1996 г. Юрий Шаргин был отобран кандидатом в космонавты от ВКС. В мае того же года назначен кандидатом в космонавты-испытатели Главного испытательного центра испытаний и управления космическими средствами (ГИЦИУ КС; ныне Главный испытательный космический центр им. Г. С. Титова; г. Краснознаменск, Московская обл.). В 1997 г. был переведен из ВКС в Ракетные войска стратегического назначения (РВСН) в связи со слиянием этих видов войск.
В марте 1998 г. окончил курс общекосмической подготовки в Центре подготовки космонавтов (ЦПК) им. Ю. А. Гагарина и был назначен на должность космонавта-испытателя ГИЦИУ КС. В сентябре того же года приказом Минобороны РФ зачислен космонавтом-испытателем в отряд космонавтов ЦПК и переведен из РВСН в ВВС. В декабре 2001 г. с сохранением должности был переведен из ВВС в Космические войска и стал первым космонавтом этого рода войск.
Юрий Шаргин совершил один полет в космос продолжительностью 9 дней 21 час 28 минут. 14-24 октября 2004 г. был бортинженером 7-й экспедиции посещения Международной космической станции. Стартовал на корабле "Союз ТМА-5" вместе членами 10-й основной экспедиции Салижаном Шариповым и американцем Лероем Чиао. Вернулся на Землю на "Союзе ТМА-4".
С августа 2008 г. по май 2010 г. работал заместителем начальника ГИЦИУ КС по научно-исследовательской работе.
В мае 2010 г. по достижении предельного возраста пребывания на военной службе был уволен в запас в звании полковника.
В ноябре 2012 г. был назначен заместителем начальника Управления пилотируемых программ Роскосмоса.
Герой Российской Федерации (2005). Награжден медалью "За заслуги в освоении космоса" (2011).
Летчик-космонавт РФ (2005).
Почетный гражданин г. Энгельса (2004).