Początkowo nosił on nazwę Jesusborg. Dziś to Zamek Gołdynga, który wzniesiono pod koniec XIII wieku w strategicznym miejscu Kurlandii nad rzeką Windawą. W XVII wieku dobudowano pięć bastionów lecz mimo to fortyfikacja została podbita przez wojska szwedzkie. Fryderyk Kazimierz po przejęciu zamku nakazał go przebudować. Niestety po wojnie w 1701 roku do końca XVIII wieku popadał w ruinę, aż w końcu został ostatecznie zburzony. W jego miejsce powstał park miejski. Muzeum Powiatowe Kuldiga znajdziemy w willi Louisa Bangertsa. Odremontowane wnętrza przenoszą nas w czasie o 120 lat. Dowiemy się tutaj więcej o historii miasta jak i okolic.
