Sinds de Romeinse tijd werd de steile klif die de stad Segovia domineert, gebruikt voor de fundering van een fortificatie, de locatie geschikt voor militaire verdediging. De Berberse Almoraviden bouwden er in de vroege Middeleeuwen een houten fort, voor het eerst gedocumenteerd in 1122, kort nadat koning Alfonso VI van Léon en Castilië Segovia had heroverd. Vandaag de dag zijn deze vroege structuren zo goed als verdwenen, en de klif wordt bekroond door een torenhoog kasteel.
Toen de stad door de christenen werd heroverd, werd het Alcázar (“kasteel”) een van de favoriete residenties van de Spaanse koningen. Beetje bij beetje werd de vesting door extra bouw- en renovatiewerkzaamheden omgevormd tot het prachtige paleis. In de 17e eeuw werd het koninklijk hof overgeplaatst naar Madrid en diende het Alcázar als staatsgevangenis totdat de Koninklijke Artillerieschool hier in 1762 werd gesticht door Karel III. De meeste daken van de adellijke vertrekken werden in 1862 door een brand verwoest, maar dankzij de gravures van José María Avrial uit 1839 werden ze in hun oorspronkelijke staat hersteld.
Het Alcázar de Segovia is gebruikt als filmlocatie in verschillende films, zoals Orson Welles’ Chimes at Midnight (1965) en de Arthurmusical Camelot (1967), maar de meest opvallende betekenis in de populaire cultuur is om verschillende redenen opgemerkt. In de Disneyfilm Sneeuwwitje en de Zeven Dwergen uit 1937 werd het kasteel van de boze koningin gemodelleerd naar het Alcázar de Segovia, waarbij de architectonische ontwerpen en de locatie op een heuveltop het origineel weerspiegelden. Later gebruikte Disney de inspiratie voor het Alcázar weer bij het ontwerpen van het kasteel van Assepoester, het symbolische sprookjeskasteel van Walt Disney World en Tokyo Disneyland.
Heden ten dage is het Alcázar de Segovia een museum dat de middeleeuwse geschiedenis van het bouwwerk vertelt, en is er een militair archief in gevestigd.