Pôvodne gotický kostol postavili v 14. storočí na mieste staršieho kostola. Súčasne s ním vznikla aj gotická Kaplnka sv. Juraja. Vysoká štíhla veža Kostola sv. Jakuba z prvej polovice 19. storočia je najvýraznejším prvkom siluety mesta. Mimoriadne cenný je interiér kostola, ktorý je jedinečným múzeom stredovekého sakrálneho umenia.
Neskorogotický hlavný oltár sv. Jakuba je s výškou 18,6 m najvyšší svojho druhu na svete. Je z lipového dreva a zhotovili ho v rokoch 1507 až 1517 v dielni Majstra Pavla z Levoče. Mimoriadnu umeleckú hodnotu majú rezbárske práce vytvorené Majstrom Pavlom z Levoče. Autorstvo tabuľových malieb sa pripisuje maliarovi Hansovi. Časť z nich vychádza z predlohy drevorytov Lucasa Cranacha.
V kostole je ďalších trinásť bočných oltárov, osem neskorogotických, dva renesančné a tri barokové. Cenná je aj zbierka gotických liturgických predmetov a barokové monštrancie od levočského zlatníka J. Szilassyho.