L’abbazia fu eretta al di sopra di una grotta naturale (dentro la quale possono essere ammirate ancora oggi stalattiti e stalagmiti dall'importante valore geologico) ad opera di San Vitale, il quale pose le basi di una prima chiesa più piccola, poi ampliata nel corso del X secolo. Il complesso abbaziale vero e proprio, monumentalizzato ed ampliato nel corso dei secoli, si dispone lungo le pendici del monte Raparo ed è organizzato su più livelli. Il katholikon, ovvero la chiesa principale del monastero edificata al di sopra della grotta, presenta una pianta a navata unica voltata a botte e incrociata da un transetto rudimentale anch'esso voltato a botte. Lateralmente si aprono delle piccole cappelle, le cui volte, simili alle precedenti, si elevano fino al livello della botte centrale. Nel mezzo, su quattro mensoloni ad angolo, s' innalza il tamburo cilindrico, su cui poggia la cupola. All'esterno il tamburo della cupola e l'abside aggettante sono decorati con archetti leggermente rilevati. La cupola a calotta è ricoperta da un tetto a gradini. All'interno della chiesa sono conservati alucini affreschi di cui però si distinguono oggi a malapena alcune figure di santi vescovi disposte in fila nel registro inferiore dell'abside. I santi tengono in mano dei lunghi cartigli che recano scritti in greco salmi in lode dell'Onnipotente. Alcuni sono vestiti con le cappe ornate dalle croci nere dei monaci basiliani e tutti indossano l'omophorion che ne attesta la dignità vescovile. Secondo le scarse notizie reperibili nelle fonti scritte, nell'abside era raffigurata la Comunione degli Apostoli, mentre sul muro a sinistra prima dell'innesto dell'abside, al di sopra dell'altare della prothesis, era raffigurato San Lorenzo, uno dei diaconi della Chiesa, che aveva il compito di assistere il sacerdote ed aiutarlo a distribuire l'eucarestia. La grotta sottostante è ricca di stalattiti e stalagmiti, con numerose gallerie e vasche a più gradini, bagnate dalle acque della fonte Trigella. Poco dopo l'ingresso si aprono, scavate nel tufo, delle celle, e su una delle pareti dell'angusto corridoio, per cui si accede all'interno, si vede dipinto un religioso inginocchiato davanti alla figura dell'arcangelo Michele rappresentato in abiti regali e con il globo crucigero nella mano sinistra databile all'XI secolo. Dopo il progressivo abbandono, probabilmente nel corso del XVI secolo, dell'insediamento monastico – trasformato in abbazia con il subentrare dei monaci benedettini tra il 1291 ed il 1308 – alcuni dei suoi pregevoli arredi furono trasferiti nella chiesa matrice del paese di San Chirico, dedicata ai SS. Pietro e Paolo, dove ancora si trovano