Karcfalva és egyháza első írásos említése a feltételezések szerint az 1332-1337-es pápai tizedjegyzékben szerepel, bár nem ezen a néven, hanem Tarkő faluról és egyházáról tesz említést az összeírás. Ez feltételezés helyességét a felsorolás sorrendje, illetve a templom elhelyezkedése támasztja alá, hiszen egy sziklára épült templomról van szó.
A templom első biztos említése 15. századi, amikor a Nagyboldogasszony plébánia papjáról létezik írásos említés, a falut, Karcfalva néven 1566-ban írják össze először. Ekkor már biztosan létezett a mai szentély, illetve a 18. században elbontott hajó.
A régészeti kutatások érdekes összefüggéseket fedtek fel a csíkszenttamási Csonka-torony és a karcfalvi templomok között, amint azt Botár István régész írásaiból megtudhatjuk. Eszerint, a boltozati bordák profiljainak, valamint a két templomok szentségtartó fülkéinek hasonlósága miatt valószínűsíthető, hogy ugyanazon mesterek munkáiról beszélhetünk – és mindez támpontként szolgál a karcfalvi templom datálásánál is, valamikor a 15. század első felére teszik a szakemberek az építkezéseket.
1796-ban lebontották a középkori hajót és egy nagyobbat építettek. Mindez a szentély megrövidülésével járt együtt – ami ma is megfigyelhető: a gótikus szentély egy boltszakasszal rövidebb lett (a diadalívnél látszik, hogy a boltozat nyugat fele folytatódott), illetve a valamikor a szentély hosszának közepe táján elhelyezkedő sekrestyeajtó a diadalív mellé szorult.
A torony és a kerítőfal építéséről nincs biztos adat. A közeli Csonka-torony mára elbontott kerítőfaláról léteznek információk, a régészeti kutatások azt 16. század előttire keltezték. A szenttamási kerítőfal a feljegyzések szerint közel nyolc méter magas volt, így párhuzamát jelentheti a karcfalvi várfalnak és annak datálásához is támpontként szolgálhatna.
Ugyanakkor a kaputorony déli oldalán levő, funkcióját vesztett, ma sehova sem vezető ajtónyílás arra utalhat, hogy a két épület nem egyidős. Felmerült annak lehetősége is, hogy mivel a torony gótikus ablakai az általában magasítást jelző övpárkány felett helyezkednek el, a torony alsó része egy, a gótikus építkezéseknél jóval korábbi rész.