Bazilika Marije Zavetnice velja za biser gotike in najlepši slovenski kulturni spomenik. Marijino romarsko svetišče naj bi na prelomu iz 14. v 15. stoletje pozidali Ptujski gospodje, in ga poimenovali Neustift. Cerkev ima elegantno zunanjost, stranske fasade obdajajo na vrhu okrašeni oporniki, ki zajemajo celotno stavbo, z osmerokotnim zvonikom. Nad glavnimi vhodnimi vrati je bil nekdaj relief Marije Zavetnice s plaščem, ki so ga jezuiti prenesli na glavni baročni oltar, postavljen leta 1764. Relief je izklesan iz enega kosa kamna, angeli pa razprostirajo plašč, pod katerim je zavetje našlo 82 ljudi. Med njimi so poskušali odkriti podobe cerkevnih dostojanstvenikov in rodbine Celjskih grofov ter znamenitih sodobnikov. Umetniki iz parlerjanskega kroga so naredili tudi kamnita gotska oltarja: oltar sv. Sigismunda in rožnovenski oltar. Celjski oltar v južni apsidi je nastal istočasno s cerkvijo in je bogato okrašen z maskami in figurami ter grbi Celjskih grofov. Freske v nekdanji križevi kapeli pod korom so prvotne, prav tako so trije reliefi v zimski kapeli v obrambnem stolpu iz časa nastanka cerkve. Freske upodabljajo dogodke iz Marijinega in Jezusovega življenja ter življenja svetnikov. Trije reliefi so naslednji: Marijina smrt, Angel z grbom in Poklon treh kraljev. Nov pridih so cerkvi dali bratje minoriti, z modernimi vitraži in novim križevim potom ter portretom minoritskega patra sv. Maksimiljana Kolbeja, ki sta delo kiparja Viktorja Gojkoviča. V cerkev vodi mogočno baročno stopnišče, ki ga stražita kipa sv. Florijana in sv. Janeza Nepomuka, deli Jožefa Strauba iz sredine 18. stoletja.