Najvýznamnejšou a najstaršou stavbou v Diakovciach je Kostol Panny Márie. Prvá časť kostola bola zasvätená Panne Márii v roku 1102, okolo roku 1220, keď sa populácia zvýšila, bolo potrebné obnoviť starý kostolík. Predpokladá sa, že v priebehu 2 rokov bol postavený dvojvežový trojlodný románsky kostol, ktorý bol v tom čase najvýznamnejšou cirkevnou stavbou v okolí – v roku 1228 ho vysvätili. V roku 1700 sa na kostole uskutočnili veľké opravy. Pravdepodobne v tomto čase boli strechy veží upravené do dnešnej podoby. V tomto roku bola pravdepodobne postavená aj „rezidencia“, ktorú miestni obyvatelia dodnes nazývajú kaštieľom.
Na stene oproti hlavnému vchodu sa nachádza zarámovaný obraz zobrazujúci vývojové fázy kostola, ktorý je dielom Arnolda Mervu. Najstaršou časťou kostola je Kaplnka svätého Štefana, ktorú dal postaviť ešte za čias kráľa Štefana. Niektoré záznamy uvádzajú, že mnísi žili v výklenkoch nachádzajúcich sa na oboch stranách strednej lode.
Podľa jednej z obyvateliek obce, pani Irénky, sa kostol často nesprávne nazýva Kostolom Nanebovzatia Panny Márie.