Со второй половины XVI века Койданово (ныне Дзержинск) являлось одним из крупнейших центров кальвинизма в Великом княжестве Литовском. Здесь около 1564 года был построен деревянный кальвинский сбор, а в 1613 году на месте древнего городища, носившего название Гаштольдова гора, было возведено в готическом стиле уже каменное здание сбора. Со временем вокруг храма сформировался целый замковый комплекс с 9 башнями, крепостной стеной, валами и рвом.

Койдановский замок и кальвинский сбор XVII века в 1930-е годы были разобраны на строительство районной больницы. Сейчас на Гаштольдовой горе сохранился лишь небольшой холм с жалкими остатками части крепостной стены и одной из башен.