До прихода в Грузию христианства люди почитали Столп Кацхи как священное место. Первую церковь на 39-метровой вершине построили между VI и VII веками. После храм был разрушен и заброшен. Его восстанавливали с 1999 по 2009 годы при участии монаха Максима, который с 1993 года жил в Кацхи, в гроте под каменной колонной. Новый храм посвящен Максиму Исповеднику, а местные жители называют его "Крепостью одиночества". Храм Кацхи находится у реки Катскхура, в поселке Кацхи, недалеко от города Чиатура. На вершину столпа поднимаются с помощью подвесной лестницы, установленной во время одной из экспедиций в 1944 году.