23 сентября 1941 года добровольно ушел на фронт. Был направлен на Северо-Западный фронт и назначен командиром взвода 26-ой гвардейской отдельной курсантской бригады. В мае 1943 года Иосифа Наумовича направили в военное танковое училище города Соликамска, затем перевели в Челябинск. Был направлен на 2 Белорусский фронт, в 18-й танковый Краснознаменный корпус, в составе 60-й танковой бригады. Последней год войны воевал в составе знаменитой 65-й армии, которой командовал генерал П.И.Батов. Иосиф Наумович закончил войну в Шетцене, награжден орденом Красной Звезды, орденом Красного Знамени, медалью «За Отвагу» и многими другими. Трижды был ранен. В 1948 году был демобилизован, поступил в МГУ на юридический факультет. После окончания вернулся в родной город, стал преподавать в ГРТ, ВЗПИ.