Strano allora non dovrebbe farti troppe storie sono molto simili....
A questo punto ti conviene tenere soltanto quella da 512 per 2 motivi:

ha una latenza inferiore (è più veloce)

ovviamente è più capiente.
Non è possibile saperlo con esattezza da cosa dipende o meglio dire (servirebbero dei test di laboratorio) sicuramente dipende dalla memoria RAM però ci sono numerose variabili che determinano la compatibilità e nel tuo pc quando accoppi le 2 memorie si creano instabilità dovute molto probabilmente dalla differenza di latenza.
Azzardo un possibile soluzione estrema considerando anche casi più rari, potresti settare il tuo BIOS in latenza 3.0.0.0.0 più lento come la memoria vecchia. Però a questo punto non ti conviene secondo me per 3 ragioni:

769 MB non ti cambiano la vita

Diminuire la latenza fa regredire la ram nuova

In ogni caso i produttori di Schede madri settano di Default le impostazioni migliori o meglio dire quelle con maggior compatibilità. Se tu cambi queste impostazioni è molto probabile che dovrai cambiarne altre Moltiplicatore FBS ecc.. Facendo una configurazione ad hoc per il tuo pc, mettendo da parte l'enorme difficoltà qualora decidessi di aggiungere qualsiasi componete sarà necessario rivedere l'intera configurazione.