По пути к Москве дивизия участвовала в сражениях под Минском, Гомелем, Брянском, Вязьмой и во множестве других отчаянных схваток. К середине ноября в строю оставалось всего 50 танков. В декабре 1941 года дивизия предприняла попытку окружить стратегически важный город Тулу (юго-восточнее Москвы), но потерпела неудачу и понесла при этом тяжелые потери. Оставаясь на центральном участке Восточного фронта до 1944 г., дивизия вела оборону под Кировом (1942 г.) и на Орловском направлении (1942 г. - начало 1943 г.), участвовала в боях под Курском и на Днепре (1943 г. - начало 1944 г.), в сражениях за Бобруйск и Ковель (1944 г.) и в неудачной попытке остановить летнее наступление советских войск 1944 г. 

В ноябре 1944 г. 4-я танковая дивизия была блокирована в Курляндии, однако в начале 1945 г. ее удалось эвакуировать морем на север Германии. Остатки 4-й танковой были частично пополнены в Данциге, но полностью восстановить дивизию не удалось. В таком виде дивизия участвовала в боях в Западной Пруссии и на Висле — последних сражениях войны. Конец войны застал дивизию в окружении во Фришен-Нерунге вместе с остатками 2-й армии, и в мае 1945 г. уцелевшая часть дивизии сдалась в плен советским войскам.