Иван Александрович Герасимов в Советской Армии с 1938 года. После окончании военного училища командир взвода, роты, батальона. С 1940 года командир стрелкового батальона, затем начальник штаба танкового полка.

В Великую Отечественную войну заместитель командира танкового полка. С 1943 года начальник штаба отдельной танковой бригады. После войны заместитель командира и командир дивизии, затем начальник штаба и командующий армии. С 1971 года первый заместитель командующего войсками округа.

С 1973 года командующий Северной группы войск, с 1975 года командующий войсками Киевского военного округа. После ухода в отставку Председатель Совета ветеранов Великой Отечественной войны Украины.