A Boldogasszony-templom zenei élete már a középkorban is kimagasló volt. Közelében állott a domonkos rend kolostora (a mai Hilton szálloda helyén), ahol az istentiszteletet nagy létszámú szerzetesi közösség végezte, ami ösztönző hatással lehetett az itteni zenei életre, a naponta végzett misék és vesperások színvonalára. Budavár főtemploma a város súlyának növekedésével országos események színhelye lett (nemzeti zsinatok 1279-ben és 1309-ben, királyjelölések és -bemutatások, hálaadások, gyászszertertások).

A XV. század végéről fennmaradt írásos adat fejlett zenei életre utal: Mátyás király kincstárnoka, Zsigmond pécsi püspök arról számol be az 1494-95. évi számadáskönyvben, hogy "a Boldogasszony-templom énekeseinek a kincstárból szolgálataikért 2 aranyforintot utaltak ki." Az udvari énekkar a pápai kórussal vetekedett színvonalban és létszámban, így a templom oda "kölcsön" hívott énekesei is magas szinten állhattak. A Mátyás után uralkodó II. Lajos király és Mária királynő udvarában is jeles külföldi muzsikusok szolgáltak, akiknek jelenléte kisugárzott a templom zenéjére is.

A mohácsi csatamezőn 1526. augusztus 29-én a keresztény Európa védelmében Magyarország színe-javával együtt II. Lajos is elesett. Ettől fogva az ország szinte védtelenül állt szemben Szulejmán szultán csapataival, akik még abban az évben feldúlták Budát. A királyi székhely végleges elfoglalására csak 1541. augusztus 29-én került sor. Ettől fogva 145 éven keresztül, egészen 1686. szeptember 2-ig naponta ötször a müezzin éneke zengett a mecsetté alakított templom tornyából, a falak között iszlám imákat mormoltak, az utcákon török hegedűsök, trombitások, dobosok zenéltek.

Budavár visszafoglalása után, 1687-ben a jezsuita rend kapta meg a templomot. A szomszédságában létesített rendház, gimnázium és főiskola megfelelő hátteret jelentett a liturgikus és zenei élet újjászervezéséhez és magas szinten tartásához. 1688 húsvétján már "zenés misét" tartottak a templomban Johannes Gregorius Seiz karnagy vezetésével. A jezsuita rend fennmaradt XVIII. századi nyilvántartásai szerint a rendi énekesek mellett szólamonként egy-egy fizetett énekes (szólamvezető, szólista), valamint hegedűsök, oboisták, trombitások, csellista, bőgős, üstdobos és orgonista tartozott a rendszeresen muzsikáló együtteshez. A templom már a töröktől történt visszavétel után egy évvel saját, hordozható orgonával rendelkezett Kollonich Lipót bíboros jóvoltából. 1694-ben Esterházy Pál nádor megnagyobbíttatta a kórus karzatát, és egy nagyobb orgonát építtetett oda saját költségén az istentiszteletek "nagyobb pompájára". Az 1723-as nagy tűzvész ezt elpusztította, de a rend azonnal gondoskodott pótlásáról. Az együttes előadásában a jezsuiták által művelt barokk, koncertáló stílusú "nemzetközi" egyházi zene hangzott el, a fennmaradt írásos feljegyzések szerint egy részük rendi, többségük pedig Bécsben működő osztrák vagy oda telepedett külföldi komponista (Caldara, Fux, Kerll, Porpora, Richter, Staudt, stb). Mellettük több, főleg olasz nemzetiségű szerző munkái is felcsendültek ebben az időben a Boldogasszony-templomban: Albinoni, Carissimi, Corelli, Perti, Pitoni, Vivaldi stb.

A virágzó zenei élet fenntartásának anyagi terheit nem egyedül a jezsuita rend viselte; a zenei kiadásokhoz rendszeresen hozzájárult a budai városi tanács, a zenészek díjazásához éppúgy, mint új hangszerek, kották beszerzéséhez.

A jezsuita rendet XIV. Benedek pápa 1773. július 21-én kelt bullájával feloszlatta. Mária Terézia királynő 1778-ban Buda városát ruházta fel a kegyúri jogokkal, így a templommal együtt a zenei élet fenntartásáról és fejlesztéséről is annak kellett gondoskodnia. A mintegy 100 esztendős "rendi" zenei korszak után egy "polgári" zenei korszak vette kezdetét. Ennek következtében a templom zenei élete megváltozott: a fiú énekeseket a XIX. század folyamán a szoprán és alt szólamokban női énekesek váltották fel, a zenekar gerincét olyan muzsikusok adták, akik a mai értelemben véve már hivatásos zenészeknek tekinthetők, hiszen a zenélés jelentette megélhetésük alapját. A repertoárban "rendi szerzők" művei helyére egyre inkább a tanács által kinevezett világi karnagyok művei kerültek (Seyler József Antal, Seemann József, Adler György, majd a század végén Vavrinecz Mór munkái), a korábbi, barokk "kismesterek" darabjait pedig a bécsi klasszika nagy mestereinek művei szorították ki (1802-ben Haydn Terézia-miséje hangzott el a Budai Főtemplomban, de nemsokára műsorra került Mozart Requiemje, Cherubini nagy F-dúr miséje, Beethoven C-dúr miséje, stb). Tovább bővült a templom tulajdonában lévő hangszerek száma. Az 1821-ből fennmaradt leltárban 6 hegedű, 2 brácsa, 1 cselló, 1 bőgő, 4 trombita, egy pár vadászkürt, 2 harsona, 2 üstdob szerepel. Bár a fizetett énekesek száma - a számadáskönyvek csak erről számolnak be - szólamonként csupán 2-3 fő, de egyre több "külső" énekes kapcsolódik be a rendszeres munkába, lehetővé téve a már említett nagyszabású misék műsoron tartását.

A fennmaradt kottatári jegyzék szerint az ünnepi zenés misék mellett más alkalmakkor is rendszeresen szerepelt az Ének- és zenekar: az 1821-es leltár Dreier 5 vesperását, 6 litániáját és 24 himnuszát említi.

A templom zenei életében jeles nap volt 1867. június 8-a: ekkor csendült fel először Liszt Ferenc Koronázási miséje, bár udvari intrikák eredményeképpen a bécsi udvari ének- és zenekar előadásában; a kis létszámú (18 énekes, 37 zenész), a másodkarnagy által irányított, Liszt zenéjétől idegenkedő együttes nem tudta meggyőző erővel megszólaltatni a művet. A mise napjainkra az ének- zenekar igen kedvelt, egyik legtöbbet játszott darabjává vált.

Az 1874 és 1896 közötti években a templom zenei együttese a renoválási munkák miatt az Ének- és Zenekar számára igen szűkös karzatú Helyőrségi (Mária Magdolna-) templomban működött. E hátrányos helyzetet két kiváló személyiség tevékenysége ellensúlyozta: 1882-ben lett a templom plébánosa Bogisich Mihály (később címzetes püspök), a Nemzeti Zenede titkára, régi egyházi énekek kutatója és közreadója, az Akadémia tagja, az Országos magyar Cecília Egyesület alapítója, korának egyik legműveltebb magyar egyházzenésze, és 1886-ban, 28 évesen nyerte el a templom karnagyi állását Vavrinecz Mór, már ekkor is jeles művek szerzője, aki 1913-ig állt az Ének- és Zenekar élén.

Bogisich beiktatási beszédében ezt a célt tűzte ki: "a templom minden ízében magyar leend, s az egyházi zenét a lehető legjobb tökélyre kívánom emelni." Ez utóbbi érdekében sokat fáradozott: átszervezte a templom Ének- és Zenekarát, barátjánál, Trefort Ágoston miniszternél elérte, hogy a fővárostól kiutalt szokásos támogatáson túl "az országos jellegű ünnepek dologi kiadásaira évi 1500 Ft-ot utalványozzon a templomnak." A megújuló egyházzene fellegvárából, Regensburgból megrendelte a legújabb egyházzenei kiadványokat, így kerültek az énekkar műsorára Palestrina, Lassus, Victoria művei, köztük a Missa Papae Marcelli és Palestrina Improperiái. Az általa kiadott ősi énekekből többet átírt énekkarra; ezek rendszeresen fel is hangzottak.

Vavrinecz Mór itteni működése során számos egyházzenei művet komponált, amelyek kéziratban maradtak fenn. Templomunk kottatárában jelenleg 3 miséje, 1-1 Requiemje és Te Deuma, valamint 25, zenekarra és kórusra vagy szólistákra komponált kisebb darabja található.

A XX. század első felében Sugár Viktor működése volt meghatározó a templom zenei életében: 1904-től orgonista, 1913-től másodkarnagy és orgonista, 1919-től haláláig, 1942. áprilisáig a zenei együttes vezetője. 1909-ben I. Ferenc József 50.000 koronás adományából az ő tervei alapján készítette el a budapesti Rieger orgonagyár a templom új, 4 manuálos hangszerét, amely a "Király orgonája" elnevezést kapta. Kitűnő szervező munkája és kapcsolatai révén elérte, hogy 1923-tól emelkedhetett a Székesfőváros által díjazott énekesek és muzsikusok száma (30 állandó énekes, 36 zenész, 8 énekes szólista), akik a később több mint 100 tagú együttes gerincét adták. A templom karzatát 1929-ben tetemesen kibővíttette, így lehetővé vált az orgona átépítése. Ennek során 1931-ben kapta meg az orgona az akkori legmodernebb, Európában először alkalmazott amerikai rendszerű elektro-pneumatikus „Setzer” kombinációt (mely lehetővé tette különféle hangszín-összeállítások eltárolását, ezáltal nagyban megkönnyítve az orgonista munkáját előadás közben). Többé már nem volt akadálya annak, hogy az Ének- és Zenekar előadásában a zeneirodalom legnagyobb alkotásai is felcsendülhessenek: Mozart Requiemje, Beethoven Missa Sollemnise, Liszt Esztergomi és Koronázási miséje, Dohnányi kettős karra komponált Szegedi miséje, stb. 1936. szeptember 2-án Sugár Viktor vezénylete alatt itt hangzott fel először Kodály Zoltán Budavári Te Deuma, melyet a szerző a székesfőváros felkérésére, Budavár visszavételének 250. évfordulójára komponált.

Sugár Viktor halála után három jeles művész nyújtotta be pályázatát a Főtemplom karnagyi állására: Vaszy Viktor, Ferencsik János és Bárdos Lajos, aki végül elnyerte a megbízást. Bárdos karnagysága idején (1942-1962) a templom az új magyar egyházzene legfontosabb műhelye lett. Megszólaltak Seiber Mátyás, Lajtha László, Kósa György, Vincze Ottó, Halmos László, Deák Bárdos György, Harmat Artúr, Werner Alajos, Járdányi Pál és mások darabjai, valamint Bárdos Lajos saját művei, melyek közül többet az énekkar számára komponált. Fokozatosan megváltozott a repertoár: Bárdos megszüntette a zenekaros misék korábbi túlsúlyát, az ünnepi miséken előtérbe került a gregorián ének és az egyházi népének, a klasszikus polifónia és a XX. századi magyar mesterek zenéje. Bár a Főváros anyagi támogatása a kommunista hatalomátvétel után teljesen megszűnt, Bárdos mégis műsoron tudta tartani Haydn Nelson miséjét, Beethoven Missa Sollemnisét és C-dúr miséjét, valamint Liszt Esztergomi és Koronázási miséjét. Ennek magyarázata az a kimagasló szellemi és zenei kisugárzás volt, amely sok karnagy, zenetanár és hivatásos muzsikus számára anyagi ellenszolgáltatás nélkül (és az állami hatóságok zaklatása ellenére) is érdemessé tette az ének-zenekarban való rendszeres közreműködést. Az együttes munkáját az 50-es évek végéig Várhelyi Antal orgonaművész, másodkarnagy is segítette, aki a 30-as években mint orgonista kezdte meg működését a templomban.

Bárdos után előbb Kósa Sándor egyházkarnagy, az Operaház korrepetitora lett a templom zenei vezetője (1962-1966). Az ő kényszerű külföldre távozása óta, 1966-tól Tardy László kántor, Liszt-díjas karnagy folytatja a neves elődök munkáját.