Kaplnka bola postavená približne v druhej polovici 14. storočia na južnej strane farského kostola sv. Alžbety, na území stredovekého mestského cintorína. Pôvodne spĺňala účel cintorínskej kaplnky (preto starší názov Cintorínska kaplnka). S posmrtným životom sa spája aj zasvätenie kaplnky: svätý Michal Archanjel má na Poslednom súde vážiť duše, aby sa podľa tejto skúšky rozhodlo, ktorá duša sa môže dostať do neba. V jej podzemí sa nachádzajú tzv. kostnice, ktoré slúžili ako miesto, kam sa ukladali kosti, keď sa celý cintorín zaplnil.

Dôležitým obdobím pre košickú kaplnku bolo práve 15. storočie, keď k nej bola pristavaná bočná loď, ktorá vo veľkosti kaplnky samej k nej bola pripojená zo severnej strany. Táto výstavba sa uskutočnila na počesť košického rodáka a zveľaďovateľa Juraja Szatmáryho a jeho príbuzných. V 17. storočí sa v kaplnke ako v jedinom kostole v meste konali bohoslužby v slovenčine, preto bola známa aj ako slovenský kostol. Okolie kostolu sa zmenilo na park, ako ho poznáme dnes, v roku 1771, keď bolo zakázané používanie cintorínu.

Práve kvôli situovaniu kaplnky uprostred stredovekého cintorína, kde boli kosti na niektorých miestach nájdené až v ôsmich poschodiach pod zemou, sa tu nachádza geopatogénna zóna. Na vonkajšiu stranu kaplnky orientovanú na juh by ste teda nemali chodiť s človekom, ktorý vám je drahý, lebo hrozí hádka alebo dokonca rozchod.