В октябре 1940г. был призван в Армию, служил в Киевском военном округе, в пограничном городе Любочев. 22 июня 1941г. в четыре утра начались военные действия. Иван Ерёменко обеспечивал связью свой полк со штабом полка.

В 1943г. во время освобождения Кировограда на Украине, был тяжело ранен и направлен в госпиталь г. Новосибирска. В июле 1944г., после лечения, был признан инвалидом второй группы. А в феврале 1945г. медкомиссия признала годным к строевой службе. И Иван Петрович снова начал принимать участие в боях Второго Белорусского фронта. После форсирования реки Одер началось наступление. В первом эшелоне Ерёменко дошел почти до Эльбы. 2 мая 1945г. его воинская часть встретилась с американскими войсками. За обеспечение бесперебойной связью во время наступления Иван Ерёменко был награжден медалью " За боевые заслуги".

С декабря 1958г. по 1998 г. работал директором в школе - интернате города Ожерелье. 20 октября 1968г. Ивану Петровичу Ерёменко было присвоено звание "Заслуженный учитель РСФСР"