Улица названа в честь советского военного деятеля Н.Е. Ершова (1892-1928) в 1928 году. До этого улица являлась частью Сибирского тракта. Во второй половине XVIII века на месте будущей улицы располагалось Арское поле, которое являлось частью Арской дороги. Улицу часто называли Арской.