Первая каменная синагога в Гродно была построена в 1575-1580 годы по проекту итальянского архитектора Санти Гуччи, приглашённого раввином Мордехаем Яффе, уроженцем Праги, приехавшим в Гродно в 1572 году. В результате пожара 1617 года эта синагога была полностью уничтожена, но вскоре после пожара польский король Сигизмунд III разрешил евреям построить новую синагогу на месте старой. Вторая синагога просуществовала дольше, но повторила участь предшественницы, сгорев в 1899 году. Нынешнее здание Большой хоральной синагоги было построено Ильёй Фрункиным в 1902-1905 годах в одной из разновидностей эклектики — мавританском стиле.

В период немецкой оккупации Гродно синагога, находившаяся в центре еврейского гетто, использовалась нацистами как место сбора евреев перед отправкой в концлагеря и на расстрелы.

Во время Великой Отечественной войны и послевоенные годы советского периода, когда здание использовалось под склад — богатому внутреннему декору был нанесён серьёзный ущерб.

С 1991 года здание возвращено еврейской религиозной общине. До 2014 года велось восстановление фасадов и внутреннего убранства синагоги.

В ночь с 26 на 27 ноября 2013 года в синагоге был пожар, который полностью уничтожил главные помещения здания — молитвенный зал и кухню, вместе со всей мебелью и оборудованием.