Институт был создан в 1963 году для проведения фундаментальных исследований строения материи на ускорителе протонов на энергию 70 млрд. электрон-вольт (ГэВ).
Вопрос о необходимости создания протонного ускорителя на самую высокую энергию в мире был поставлен ещё И.В. Курчатовым в начале 1950-х годов.
Впоследствии под руководством известного советского учёного В.В. Владимирского в Институте теоретической и экспериментальной физики начались работы по созданию крупнейшего в СССР ускорителя.
В 1967 году комплекс был введен в действие, а в 1968 году на нем были начаты первые физические эксперименты.
Параллельно с экспериментальными исследованиями продолжались работы по развитию ускорительной техники. Принцип ВЧК-фокусировки (RFQ), впервые реализованный в ИФВЭ, стал одним из крупнейших достижений ускорительной физики последних десятилетий.
С 2009 году институт присоединился к проекту по созданию Национального исследовательского центра "Курчатовский институт".