Middeleeuwen
- De vroegste vermelding van O.L. Vrouw van Haarlem dateert van 1505, toen in dat jaar Adrianus van Appeltern, bisschop van Sebaste en wijbisschop van Utrecht, het beeld wijdde en een ieder die rouwmoedig vijf weesgegroeten bad voor het beeld in de Begijnenkerk een aflaat van veertig dagen schonk. 
Het beeld speelde een belangrijke rol in het geloofsleven van de begijnen. Zo moest tijdens de professieplechtigheid iedere intredende begijn zich naar het altaar met het beeld begeven en daar een brandende kaars offeren. Aansluitend daarop ging de pastoor van het begijnhof 'uyt de kerck des hoffs, vooraen draegende het miraculoose beelt van Onse Lieve Vrouwe dat wij daghelijck noch op den outaer vercieren'.
Ook na het verlaten van het begijnhof (1581) werd de devotie tot Maria door de begijnen in ere gehouden. Zo vermelden aantekeningen in 17e-eeuwse gebedenboeken en de reglementen van het nieuwe begijnhof dat de begijnen dagelijks de litanie van Loreto voor het miraculeuze beeld moesten bidden.
- De devotie tot Maria beperkte zich evenwel niet tot de begijnen. Ook gelovigen uit Haarlem en de wijde omgeving vereerden het beeld, zo blijkt uit een helaas verloren gegaan mirakelboek dat een zevental wonderen opsomt die rond het beeld hebben plaatsgevonden. Zo wordt verteld van een schipper die tijdens een zware storm Maria had beloofd om bij behouden terugkomst haar drie kaarsen en een scheepje van was te offeren. Eenmaal thuisgekomen vergat hij zijn belofte. Op zijn sterfbed kreeg hij echter wroeging en vroeg zijn dochters het verzuim goed te maken. Zij weigerden dit, omdat zij inmiddels tot het calvinisme bekeerd waren. Prompt daarop werden zij in hun slaap gekweld door verschijningen van hun inmiddels overleden vader. Pas toen zij de wensen van hun vader alsnog hadden vervuld hielden de verschijningen op. 
Een ander verhaal betrof een vierjarig kind uit Den Haag dat nog geen tanden had. Op aanraden van een priester schonken de ouders toen een set zilveren tanden aan het Mariabeeld, waarop de tanden onmiddellijk doorbraken.

De 17e en 18e eeuw
- In een bewaard gebleven 17e-eeuws gebedsformulier staat uitgebreid beschreven welke gebeden en handelingen de priester moest vervullen bij een ziek kind dat ter genezing naar de kapel van Maria was gebracht.
In september 1638 bezocht Philippus Rovenius, de apostolisch vicaris, het nieuwe begijnhof. Naar aanleiding van dit bezoek gaf hij vijf maanden later ter bevordering van de devotie tot het beeld een aflaat van vijftig dagen aan een ieder die voor het beeld 'welke door God met vele wonderen is begunstigd geworden op de aanroeping der allerheiligste Maagd' de litanie van Loreto godvruchtig bad of daarbij aanwezig was. Op 12 december 1714 verleende paus Clemens XI een aflaat van honderd dagen aan al degenen die op de zaterdag of op de feestdagen van Maria bepaalde gebeden hadden uitgesproken. Hoewel de tekst van deze verlening zeer ruim is gesteld, mogen we aannemen dat deze ook voor het Mariabeeld heeft gegolden.
- Nadat in mei 1843 de nieuwe St. Josephkerk was ingewijd, ontving bouwpastoor Boin van mgr. Ferrieri, de vice-superior van de Hollandse Zending, een schrijven, waarin deze de pastoor nadrukkelijk wees op zijn plichten betreffende de verering van Maria. Haarlem moest zijn dankbaarheid jegens de gunsten van Maria, waarvan het beeld, de dankoffers, de oude geschriften en de aflaatverleningen zo duidelijk getuigden, blijvend vervullen. Om daaraan te kunnen voldoen werd op aanraden van de vice-superior de 'Broederschap van het Zeer Heilig en Onbevlekt Hart van Maria tot Bekering der Zondaren' opgericht.

Revitalisatie van de verering
- Met de komst van kapelaan van F. van Kersbergen omstreeks 1900 kreeg de devotie meer betekenis. Door te publiceren over het beeld en het samenstellen van een handboekje probeerde hij de verering te stimuleren. In 1905 kreeg de Broederschap mede door zijn toedoen toestemming van de Heilige Congregatie van de Riten om voortaan op 2 juni een eigen feestdag te vieren. Sindsdien is dit de vaste feestdag van O.L. Vrouw van Haarlem. De dag werd voorafgegaan door een triduum, terwijl de tweede juni zelf werd besloten met een plechtige mis en een processie waarbij het beeld door de Josephkerk werd gedragen, en Maria werd aangeroepen als 'Toevlucht der Zondaren', 'Troosteres der Bedrukten' en 'Behoudenis der zieken'. Daarnaast bleef de kapel het gehele jaar open, waarbij vooral op zaterdag vele gelovigen een bezoek aan de kapel brachten om er de rozenkrans te bidden.
- In zijn handboekje voor de verering van Maria maakt Kersbergen melding van het geval van een Haarlemse vrouw, wier kind aan stuipen leed. Nadat zij met haar kind de kapel eerder had bezocht, weken de volgenden dag, toen zij voor het beeld een kaars had ontstoken, plotseling de stuipen, 'voor welks geloofwaardigheid wij instaan', aldus Van Kersbergen. Van andere wonderen is niets bekend. 
- Pas tijdens de Tweede Wereldoorlog nam de verering van Maria grotere vormen aan. Op 1 augustus 1943 werd voor de mannen en jongens die vanwege de oorlog van huis waren, een speciale Mariadienst gehouden. Van 25 tot en met 2 juni 1944 werd een Marianoveen gehouden, waarbij op de laatste dag door schoolkinderen Maria een grootse bloemenhulde werd gebracht. Toen tijdens de hongerwinter de nood tot grote hoogte steeg, werd van november 1944 tot de bevrijding in mei 1945 elke dag onafgebroken van negen uur 's morgens tot zeven uur 's avonds de rozenkrans hardop gebeden. Aan deze diensten namen duizenden Haarlemmers en mensen uit de omgeving deel. Hierdoor veranderde de kapel in een belangrijk regionaal bedevaartoord.
- Na de oorlog verflauwde de belangstelling en werd de jaarlijkse feestdag op 2 juni wederom het belangrijkste gebeuren. De oproep van paus Pius XII, die 1954 tot internationaal Mariajaar had uitgeroepen, om bedevaarten te ondernemen naar de heiligdommen van Maria, leidde in Haarlem tot het instellen van het 'Comité Mariajaar'. De initiatiefnemers stelden zich niet alleen tot doel allerlei feestelijke activiteiten te organiseren, zoals het houden van processies en rozenkransgebeden en het opvoeren van stichtende toneelstukken, zoals Marike van Nimwegen, maar ook om de kapel te restaureren.

De Hongaarse opstand en de ommegang
- Terwijl het Comité nog druk aan de slag was, brak in de herfst van 1956 de Hongaarse opstand uit. Begaan met het lot der bevolking werd in de nacht van 4 november een mis in de Mariakapel opgedragen. Na afloop werd spontaan besloten tot een stille ommegang door de stad langs alle plaatsen waar Maria ooit op de een of andere manier was vereerd. Het werd een zo indrukwekkende manifestatie dat afgesproken werd van deze omgang een jaarlijkse traditie te maken, die tot op de dag van vandaag is gehandhaafd. Om een en ander te coördineren werd nog in hetzelfde jaar de vereniging 'Vriendenkring van Onze Lieve Vrouw van Haarlem' opgericht. Vele jaren wist deze vereniging een duizendtal deelnemers voor de omgang bij elkaar te brengen. De tocht, die op de laatste zondag van mei is gesteld, vertrekt vroeg in de ochtend van de Josephkerk en men loopt dan in stilte, al of niet de rozenkrans biddend, via de Jansstraat, Nieuwe Gracht, Kruisstraat, Barteljorisstraat, Grote Markt, Grote Houtstraat, Anegang, Warmoesstraat, Lepelstraat, langs de Bavo, Klokhuisplein, Damstraat, Spaarne, Bakenesserstraat, Vrouwestraat, Bakenessergracht, Korte Begijnestraat, Lange Begijnestraat, Begijnhof, Goutsmitspleintje, naar de kerk. De hele tocht duurt ongeveer een uur. In de eerste jaren was het gebruikelijk dat langs de route achter ramen van katholieke huizen Mariabeeldjes werden geplaatst met kaarsen en bloemen ervoor (in 1996 niet meer). De gehele dag werd de kapel druk bezocht door gelovigen die er de rozenkrans kwamen bidden. Het feest werd 's avonds besloten met een plechtige mis met processie in de kerk.

Sinds de jaren 1960
- In de jaren zestig nam de belangstelling voor deelname aan deze stille tocht af. De 'Vriendenkring' daarentegen bloeide en telde in de jaren 1980 nog steeds meer dan driehonderd leden, niet alleen Haarlemmers, maar ook mensen afkomstig uit het verre noorden en zuiden van het land. Zij steunen de vereniging niet alleen geldelijk, maar proberen ook een paar keer per jaar een bezoek te brengen aan de dagelijks geopende Mariakapel aan de Jansstraat.
- In 2005 werd het 500-jarig jubileum van de Maria van Haarlem herdacht. Ter gelegenheid daarvan is een oud gebedsprentje opnieuw uitgegeven. De toenmalige pastoor, H.J. Niesten, heeft bij die gelegenheid de Mariaprocessie in ere hersteld. Dat jaar (en opnieuw in 2010) vond er een grote processie door de binnenstad van Haarlem plaats. Sindsdien wordt er jaarlijks rond de feestdag van Maria van Haarlem, 2 juni, de wijdingsdatum van het beeldje, een kleine processie gehouden. Deze trekt vanuit de St. Josephkerk over het naastgelegen Begijnhof en langs de Waalse kerk, om weer terug te keren in de Josephkerk.