Лишь после 1365 года все королевские сокровища покинули пределы этого сооружения. А до этого все регалии и драгоценности хранились под дормиторием, бывшей спальней королей. В нынешнее время там находится библиотека. С XI-го века сохранились лишь часовня и галереи под спальней – самая старинная часть комплекса. Эдуард Исповедник, живший в 1042-1066 годах, возвел огромную каменную церковь, но от нее остались лишь часовня и переходы.
Принцесса Гита, родившая Юрия Долгорукого, являлась племянницей Эдуарда, англосаксонского короля. На вышитом ковре из Байе остались осталось изображение оригинального вида аббатства, которое было перестроено в XIII-ом веке. Место, где хранились сокровища, сохранилось – там находятся сундуки, помнящие золото королей, несколько тяжеленных замков с ключами, тяжелые двери. Все это располагается в помещении со сводчатыми сводами на массивных колоннах.
Там, где располагалось в древности монастырское кладбище, в 1345 году был возведен переход в сокровищницу. Все думали, что в богатую сокровищницу ведет лишь один переход. Он тщательно охранялся и до конца XIX-го века никто даже не подозревал, что существует еще один ход. Во время реконструкции была обнаружена дверь, ведущая в сокровищницу совершенно из другого места. К ужасу рабочих и исследователей, дверь оказалась оббита человеческой кожей.
Она принадлежала заговорщикам, который, воспользовавшись отсутствием короля Эдуарда I-го Плантагенета, вступили в преступный сговор и сделали попытку похитить большую часть сокровищ, намного превосходивших по своей совокупной стоимости весь бюджет страны. Похитителями были монахи. В итоге в разных концах страны обнаруживались похищенные сокровища, но часть так и не удалось отыскать. Группу похитителей жестоко наказали, а духовные лица были заключены в лондонском Тауэре.