Som det litauiske folk, så har Skt. Kasimir kirken også været ramt af den ene svære periode efter den anden. Den katolske stolthed blev bygget i 1604 men blev allerede i 1700-tallet slemt skadet af en brand. I 1800-tallet brugte Napoleons soldater kirken som kornlager, mens de sovjetiske magthavere under besættelsen rev alt inventar ud og omdannede den til et ateistisk museum. Det kommunistiske budskab lød, at religion blot var opium for folket, og ateismen var at foretrække som den rette livsanskuelse.