Osada Piekary posiadała niewielki drewniany kościółek od początków XIV wieku. Umieszczony tu wizerunek Matki Bożej zaczął słynąć cudami w XVII w. Wówczas to, podczas remontu kościoła za probostwa ks. Jakuba Roczkowskiego, obraz z którego miał wydobywać się miły zapach róż umieszczono 27 sierpnia 1659 r. w głównym ołtarzu. Proboszcz, motywowany relacjami uzdrowionych, zainicjował wspólne modlitwy przed obrazem. Niebawem rozpoczęły się pielgrzymki, a w 1676 r. mieszkańcy Tarnowskich Gór, dziękując Matce Bożej za wybawienie od epidemii, postanowili przybywać tu corocznie. Proboszcz Roczkowski rozpoczął starania o utworzenie tu nowej placówki jezuickiej, co doprowadziło do konfliktu, bowiem najbliższe kolegium jezuickie znajdowało się w Opolu, a Piekary Śląskie należały do diecezji krakowskiej. W konsekwencji komisarze biskupi z Krakowa uznali świadectwa uzdrowień za fałszywe i zakwestionowali szerzoną przed proboszcza „cudowność” obrazu. Roczkowszki został osądzony i musiał spędzić miesiąc aresztu na zamku biskupim w Siewierzu. Obraz usunięto z ołtarza głównego, zakazano też kapłanom mówić o nim jako o cudownym.
Kult maryjny odnowili jezuici, a przyczynił się także do tego sam cesarz austriacki Leopold I, próbując zresztą wykorzystywać go przemyślnie w celach politycznych. Gdy w 1680 r. wybuchła zaraza w Pradze, cesarz poprosił o przywiezienie obrazu. Epidemia ustąpiła, a cudowność obrazu potwierdził arcybiskup praski Jan Fryderyk Waldstein. W 1683 r. przed obrazem Matki Bożej modlił się zmierzający pod Wiedeń król Jan III Sobieski, natomiast kolejni królowie August II Mocny i August III podpisywali tutaj pacta conventa. W 1702 r. obawiając się zniszczenia podczas walk religijnych w trwającej w Europie wojnie północnej, obraz wywieziono do Opola, wykonując dla kościoła w Piekarach jego kopię. Pielgrzymi nadal zmierzali właśnie tutaj, co jeden z proboszczów ks. Jerzy Bellman podsumował: „Nie pędzel tu mocen, ni praca człowieka, ni drzewo, ni płótno, jeno Duch Boży, który sobie to miejsce i ten lud upodobał”.
W XIX w. wzmożony ruch pielgrzymkowy spowodował budowę nowego kościoła, której inicjatorem był ks. Jan Ficek. Świątynię wzniesiono w stylu neoromańskim na miejscu starego, drewnianego kościoła św. Bartłomieja - według projektu Daniela Groetschela - i konsekrowano 22 sierpnia 1849 r. Obok świątyni znajduje się Rajski Plac oraz pięć kaplic. Wzdłuż muru kościelnego umieszczono na cokołach kamienne figury dwunastu apostołów. W 1962 roku papież Jan XXIII nadał kościołowi tytuł Bazyliki Mniejszej. W latach 1965-1978 podczas pielgrzymek corocznie głosił tu Słowo Boże metropolita krakowski, Karol Wojtyła. Sanktuarium w 1986 r. odwiedziła także Matka Teresa z Kalkuty. W czasach reżimu komunistycznego, głównie w latach 80-tych, miejsce to stanowiło dla mieszkańców Śląska swoistą oazę wolności.
Charakterystyczne, że Maria z Dzieciątkiem na obrazie stanowiącym kopię ikony wywiezionej do Opola utraciła pierwotną, bizantyjską surowość formy. W 1925 r. obraz otrzymał korony poświęcone przez Piusa XI. Zostały one skradzione podczas II wojny, co mogło być prowokacją władz hitlerowskich. Obraz koronowano powtórnie w roku 1966. Po kolejnej kradzieży, dokonanej w 1984, rekoronowano go w 1985.
Matka Boża Piekarska jest główną patronką archidiecezji katowickiej.
