Zamek wzniesiono prawdopodobnie na przełomie XIII i XIV wieku. Był to ważny ośrodek życia politycznego w Królestwie Polskim. Stanowił także rezydencję dla naszych dawnych władców oraz królewskich żon i wdów. Twierdza służyła też jako więzienie stanu – przetrzymywano tu m.in. znaczniejszych jeńców krzyżackich po bitwie pod Grunwaldem.
Choć przez długie lata zamek pozostawał niezdobyty, to w XVI wieku zaczął podupadać. Kilkukrotnie był niszczony – najpierw przez rokoszan Zebrzydowskiego, później w czasie potopu szwedzkiego oraz III wojny północnej. To ostatnie wydarzenie przesądziło o jego upadku.
Do dziś przetrwał w formie trwałej ruiny, którą można zwiedzać. Uwagę przyciągają jego potężne baszty. We wschodniej wieży znajduje się punkt widokowy, skąd przy dobrej pogodzie można nawet dostrzec Tatry.