Свою историю дивизия ведёт от сформированной в СибВО в марте 1942 года 308-й стрелковой дивизии. За проявленные личным составом мужество и героизм в боях с немецко-фашистскими захватчиками 308-я стрелковая дивизия преобразована в 120-ю гвардейскую стрелковую дивизию (23 сентября 1943 года).

С конца сентября 1943 вела наступательные бои в восточных районах Белоруссии, в ходе которых во взаимодействии с 283-й стрелковой дивизией освободила город Костюковичи (28 сентября), форсировала реки Проня (25 октября), Сож (23 ноября) и в начале декабря вышла на левый берег реки Днепр в районе Сверженя (18 км северо-восточнее Рогачёва).Во 2-й половине февраля 1944 года дивизия в ходе Рогачевско-Жлобинской операции форсировала Днепр, во взаимодействии с другими соединениями армии прорвала сильно укреплённую оборону немецко-фашистских войск и освободила Рогачёв (24 февраля). За отличия в этих боях была удостоена почётного наименования Рогачёвской (26 февраля 1944 года). В Белорусской операции дивизия в составе войск 1-го Белорусского фронта принимала участие в прорыве глубоко эшелонированную обороны противника северо-восточнее Бобруйска, окружении ого крупной группировки в районе города и развитии наступления в направлении Новогрудок, Волковыск.Начав наступление с плацдарма на Друти, дивизия завершила его на реке Нарев, пройдя с боями более шестисот километров. Только за первые две недели наступления гвардейцы 120-й «захватили 2800 пленных, 167 пулеметов, 51 орудие, 39 минометов, 80 автомашин..». Вместе с другими соединениями 3-й армии, которая в начале июля была передана из 1-го Белорусского фронта во 2-й Белорусский, дивизия форсировала Березину, Неман, Сервич, Шару, участвовала в освобождении более пятисот населенных пунктов Белоруссии и Польши, в том числе Бобруйска, Минска, Волковыска, Белостока и Дятлова.27 июля участвовала в штурме Белостока. За отличия в этих боях все её полки были удостоены почётного наименования «Белостокских» (9 августа 1944 года).К 30 июля дивизия вышла к реке Нарев. 6 сентября участвовала в штурме города и крепости Остроленка, а затем вела бои по расширению наревского плацдарма в районе Ружан.Высоких наград была удостоена дивизия в Восточно-Прусской наступательной операции 1945 года. За образцовое выполнение заданий командования, способствовавших овладению войсками 3-й армии городов Вормдитт (Орнета) 15 февраля и Мельзак (Пененжно) 17 февраля, она награждена орденом Кутузова II степени (5 апреля 1945 года).За отличия в боях при овладении городом Хейлигенбайль (Мамоново) 25 марта награждена орденом Суворова II степени (26 апреля 1945).Боевой путь дивизия завершила в составе войск 1-го Белорусского, фронта в Берлинской наступательной операции, в ходе которой 23 апреля форсировала реке Шпре и затем вела ожесточённые бои по уничтожению группировки вражеских войск юго-восточнее Берлина.