Era l’antico Castrum Sancti Angeli il Castello Orsini, splendido maniero che fu l’amatissima residenza estiva di Margarita d’Austria, figlia del potente imperatore asburgico Carlo V.
Intorno al X secolo, quando fu costruito dai monaci benedettini, il Castrum Sancti Angeli era solo una torre fortificata che, secondo la leggenda, prese il nome dal colle dove sostò San Michele Arcangelo; più verosimilmente derivò dalla vicina chiesa dedicata al santo, citata anche in una bolla del 958.
A metà del Duecento lo acquisirono gli Orsini che lo ampliarono e lo dotarono di una prima cinta muraria. I lavori furono completati nel 1308, come attesta la lapide, ornata da un bel bassorilievo del viso dell’Arcangelo, posta prima sulla Porta Luigia e oggi murata nel cortile interno.
Fu Margarita d’Austria però a dare al castello e al borgo la svolta che ancora oggi li caratterizza e da cui prende spunto lo spettacolare Palio Madama Margarita che da decenni allieta le estati di Castel Madama.