Первое упоминание об Оружейной палате столичного Кремля относится к 1508 г. Но еще в 1339 г., В духовной грамоте столичного князя Ивана Калиты упоминались декорации, посуда из драгоценных металлов, церковные сосуды, драгоценное орудие и одежды, положившие начало великокняжеской сокровищнице. В период правления Ивана III великокняжеская казна разрослась так, что для её хранения в 1485 г. В Кремле, меж Архангельским и Благовещенским соборами было специально возведено двухэтажное каменное здание с высокой четырехскатной крышей и глубокими подвалами, получившее заглавие казенный двор. Тут практически триста лет хранились сокровища столичных правителей.

Своим нынешним заглавием музей должен ведущей кремлевской мастерской, Оружейной палате, в которой издавна изготовляли прохладное и огнестрельное орудие, а также воинские доспехи всех видов. Непоправимый урон кремлевской сокровищнице был нанесен в период правления самозванца - Лжедмитрия (1605-1607 гг.).

После его погибели разграбленная казна продолжала скоро убывать. Из-за недостатка средств взошедший на престол Василий Шуйский обязан был распорядиться переделывать в монеты принадлежавшие казне драгоценности. Во время пребывания в Москве польских интервентов (1610-1612 гг.)