Здание музея построено в первой половине 18 века. Это было длинное строение, в двух этажах которого расположились цеха для производства сукна для нужд армии. В 19 веке к зданию были приделаны 4 колонны с фронтоном и оно приобрело современный вид.

После революции 1917 года здание использовалось как продовольственный склад для нужд Красной армии. После Великой Отечественной Войны в здании располагался картографический склад (военные карты).

В конце 70-х годов прошлого века по решению областных властей здание "Арсенал" было передано Воронежскому областному краеведческому музею. Здесь решено было разместить экспозицию "Воронежская область в годы ВОВ".

Экспозиция была построена к 1983 году.

Её темы:

• Воронежская область в первый период ВОВ;
• Воронеж в 1942 году;
• Освобождение Воронежского края.

Кроме того, в залах музея размещены выставки:

• Работа поисковых отрядов;
• От кольчуги до мундира (История военного костюма русской армии);
• Боевой путь 4-ой гвардейской танковой армии в годы ВОВ" (ныне 20-ая армия, расквартированная на территории Воронежской области).

Геральдическая выставка, рассказывающая об истории гербов губерний и областей. Кроме того, несколько раз в год в экспозиции размещаются ранее не выставлявшиеся материалы о том или ином воинском подразделении, принимавшем участие в боях на Воронежской земле.

В залах музея проводятся как тематические, так и обзорные экскурсии. Помимо этого проводятся семинары, уроки мужества для школьников. Работники музея читают лекции, проводят экскурсии по городу, по местам боев, ведут научно-исследовательскую работу по истории ВОВ.
В год "Арсенал" посещают в среднем от 12 до 15 тысяч человек, в основном школьники, затем студенты, курсанты военных училищ, взрослые.

Основная задача музея - пропаганды военной героики и освещение событий ВОВ.
Музей работает в тесной связи с ветеранами ВОВ, Комитетом ветеранов-однополчан, поисковыми отрядами.