Фундамент собору було зведено у формі хреста в 1898 році в день народження Якова Федоровича Голубицького при губернаторі Шлеппе. Будівництво храму тривало довгих 10 років. Складність полягала в тому, що на цьому місці було розташовано озеро, а його осушення потребувало великої кількості землі.