Passarono ben tre secoli prima che la Chiesa Vecchia, la più antica chiesa parrocchiale di cui è ricca Amsterdam, raggiungesse la forma attuale. La Chiesa ha vissuto uno sviluppo a tappe, caratterizzata da tante fasi di realizzazione quante sono, più o meno, le cappelle. La fase di costruzione più antica risale alla notte dei tempi. Gli archeologi presumono che gli abitanti di 'Amestelledamme' abbiano costruito il loro primo Tempio divino tra il 13° e il 14° secolo. Come luogo scelsero un terrapieno che veniva usato come luogo di sepoltura, sulla riva est dell'Amstel. La Chiesa prese la forma di una basilica. Ma in meno di 30 anni, benché avesse la lunghezza di 10 metri, questa Chiesa era divenuta troppo piccola. Amsterdam visse in quegli anni un periodo di forte crescita della popolazione, che seguì al riconoscimento dei diritti municipali, avvenuto nel 1300, da parte del conte di Holland. In seguito a ciò si creò un processo dinamico di crescita economica che fece affluire verso questa giovane cittadina numerosi connazionali e commercianti.

Il nuovo piano di costruzione era ambizioso: una Chiesa a sale, realizzata in tre navate con un coro allungato nel prolungamento della navata centrale. La Chiesa era consacrata a San Nicola, per tradizione patrono dei marinai, in seguito curiosamente anche patrono dei fornai. Questo piano di costruzione fu attuato in diverse fasi.

Mezzo secolo dopo la Chiesa doveva subire un nuovo ampliamento. Venne optato per una soluzione logica: prolungare le navate laterali e creare un ambulacro che fungesse da mantello intorno al coro. Per dare alla Chiesa una forma a croce, vennero costruite delle navate trasversali.

Questa fase della costruzione fu caratterizzata da periodi di ristagno. Sicuramente i ritardi erano in parte attribuibili agli enormi incendi del 1421 e del 1452, che ridussero in cenere gran parte della città (allora di legno, come si usava). La Chiesa ne rimase miracolosamente salva. Un altro fattore di ostacolo fu la costruzione della Chiesa Nuova, edificata sul "Dam" (sbarramento fluviale). Questa si rivelò una vera e propria rivale nella lotta per accaparrarsi i mezzi finanziari. La Chiesa Vecchia entrò anche in conflitto con i limiti di spazio imposti dalla presenza di altre costruzioni. Era ormai impossibile pensare ad ulteriori allargamenti e cominciò a delinearsi la fine del lungo periodo di rimaneggio delle strutture architettoniche. Agli inizi del 16° secolo assistiamo ancora una volta ad interventi di modifica: si tratta della costruzione di cappelle laterali a nord e a sud, con le quali l'edificio assume l'assetto planimetrico definitivo che oggi conosciamo. Un'ultima fase ha visto l'innalzamento della navata centrale, della crociera e del coro, ottenuto mediante l'interposizione di una fila di arcate con vetrate. Che ne fossero consapevoli o meno, i maestri costruttori erano ritornati al disegno originale, quello della chiesa sul terrapieno lungo l'Amstel. Erano stati raggiunti i limiti della crescita, e la struttura aveva orma le dimensioni attuali di circa 70 x 60 x 20 m.

Innen

1300 circa: modello a tre navate cosiddetto pseudobasilicale con navate laterali ridotte e un coro quadrangolare. La torre è di epoca successiva.

1370: il coro minore è rimpiazzato da un coro chiuso più ampio e funzionale.

1390: l'intera navata centrale è sostituita da tre navate di altezza e larghezza uguale, la "Chiesa a sale". Si tratta probabilmente dell'esempio più antico di questo tipo di costruzione.

1460 circa: le navate laterali sono allungate verso est ed il coro è circondato da un ambulacro, una soluzione unica in questo tipo di chiesa. Sul lato a Sud viene edificata una cappella.

Fra il 1485 e 1517 prosegue l'opera di arricchimento e di ampliamento della chiesa con l'aggiunta, a nord e sud della navata, di cappelle trasversali e con l'ulteriore ampliamento della navata trasversale. Sono realizzati anche portali e vani secondari, come ad esempio la Cappella ferrea (archivio municipale) edificata sul lato a Sud e il Santo Sepolcro sul lato a Nord.

Nel 1510 segue un intervento di rialzo della navata centrale che viene dotata di luci.

Fra il 1550 ed il 1560 si procede alla costruzione della Cappella della Vergine e si eseguono opere di innalzamento del quadrato e del coro.

L'Iconoclastia

L'Iconoclastia del 1566, che aveva lasciato dietro di sé una scia di devastazione per tutti i Paesi Bassi, non risparmiò la Chiesa Vecchia. Ci furono furiosi saccheggi e distruzioni. L'impresa fu completata dalla vittoria dei Calvinisti nel 1578. Le statue dei Santi e gli altari erano già scomparsi e solo le pitture e gli sbalzi delle volte, irraggiungibili all'ira devastatrice, furono risparmiati per i posteri, sia pure occultati da strati di vernice. Prima dell'Alterazione, come viene definito questo passaggio di poteri dai cattolici ai protestanti, la Chiesa Vecchia veniva usata letteralmente come "il salotto cittadino". Così come i senzatetto di adesso cercano riparo presso la Stazione Centrale, i senzatetto e mendicanti di allora dormivano nella Chiesa e i mercanti vi mettevano in mostra la loro mercanzia. Per i seguaci di Calvino tutto ciò era naturalmente impensabile, come possiamo leggere dalle iscrizioni ai lati del coro e della navata. Era ovvio che le "Stalle d'Augia" venissero pulite a fondo!

Nel 17° secolo compare l'attuale arredamento della chiesa, con gli inginocchiatoi, i monumenti e le lapidi commemorative che conosciamo. I due organi furono utilizzati per i concerti e per accompagnare le funzioni religiose. Di tanto in tanto subirono interventi di restauro. L'organo maggiore, che gode di grande fama, fu ristrutturato da Christian Vater  e Johann Caspar Müller. Ma lo zelo del rettorato non si limitò agli interni. Nel 18° secolo ebbero luogo le ultime attività di costruzione all'esterno: la realizzazione delle casette che circondano la chiesa.

All'incirca allo stesso periodo risalgono i lavori di sostituzione parziale delle volte di quercia, il che significò un irreparabile danno alle pitture. Nel 1755 l'intera volta venne dipinta di blu di Berlino. All'inizio del 20° secolo divenne evidente il processo di degenerazione del legno, sotto lo strato di vernice. Fra il 1912 e i1 1914 vennero fatti dei restauri di emergenza che non risultarono adeguati. Nel 1951 1a Chiesa Vecchia dovette chiudere le sue porte a causa del pericolo di crolli.

Nel 1955 la "Fondazione della Chiesa Vecchia di Amsterdam" entrava in possesso della chiesa, rilevandola dal precedente proprietario: il Nederlandse Hervormde Gemeente (organizzazione religiosa protestante). Cominciò così una immane opera di restauro, portata a termine nel 1979.  Durante i lavori di consolidamento effettuati nel periodo 1994-1998, sulle facciate esterne delle vetrate a fuoco è stato applicato uno strato protettivo. Nel frattempo alla Chiesa Vecchia di Amsterdam è stato riconosciuto il titolo di monumento Europeo che la pone allo stesso livello dei più importati monumenti di cui l'Europa è ricca.

Nel 1571, sette anni prima che la chiesa diventi un tempio protestante, è realizzata la sala del consiglio della congregazione di Nostra Signora, accanto alla Cappella della Vergine.