Il est né à New York en 1955, où il a obtenu un diplôme d'histoire. Il enseigne l'histoire militaire à l'université de Bard. Il était un ami proche et confident de l'historien James Chace, décédé en 2004. Caleb Carr a participé à la conception de la suite du film L'Exorciste, en tant que scénariste. Il est ainsi présent au générique du film. Carr s'est présenté en tant que candidat indépendantiste dans le comté de Rensselear en 2005, mais il a été largement battu.