Основатель обители преподобный Иаков Железноборовский происходил из семьи галичских бояр Аносовых. После смерти родителей он поступил в монастырь преподобного Сергия Радонежского и принял монашеский постриг от руки самого «игумена земли Русской». Испросив у аввы Сергия благословение на возвращение в родные места, преподобный поселился в уединении вблизи села Железный Борок; такое название объяснялось тем, что рядом с селом находился огромный бор с залежами железной руды, которую издавна добывали местные жители. Около двух десятилетий святой Иаков подвизался в одиночестве, затем к нему стала собираться братия. Около 1390 года, построив небольшую деревянную церковь в честь Рождества Иоанна Предтечи, преподобный положил начало новому монастырю. Отошедший ко Господу 11 апреля 1442 года угодник Божий был погребен в стенах основанной им обители. Учеником и сподвижником преподобного Иакова являлся преподобный Иаков Брылеевский – основатель Брылеевской пустыни, располагавшейся в нескольких верстах от Железноборовского монастыря.

В начале XVII века в обители проживал – а по некоторым данным, даже был пострижен в монашество – Григорий Отрепьев, будущий самозванец Лжедмитрий I. В 1613 году состоялось обретение святых мощей преподобного Иакова, оставленных затем пребывать под спудом. В 1686–1701 годах Железноборовская обитель была приписана к московскому Донскому монастырю.

В 1743–1757 годах в монастыре построили первую каменную церковь в честь Рождества Пресвятой Богородицы с приделом во имя преподобного Иакова Железноборовского и святителя Николая. В 1761 году завершилось возведение каменной церкви в честь Рождества Иоанна Предтечи с колокольней и приделом во имя преподобного Сергия Радонежского. В 1811 году деревянную монастырскую ограду сменила кирпичная. Около 1825 года были построены каменные настоятельские и братские кельи, в 1843–1850 годах – гостиница и братская трапезная близ башни (в которой прежде находилась часовня).