Wäre noch gut zu wissen, welches Netzteil du genau verbaut hast, "500 Watt" sagt nicht viel aus...
Die haben keinen VGA-Anschluss, weil der Anschluss ausstirbt, ist noch ein analoges Überbleibsel

Mittlerweile läuft eigentlich alles, was so rauskommt über HDMI oder DVI, die beide digital sind. Sie unterscheiden sich lediglich darin, dass HDMI zusätzlich noch Ton übertragen kann, DVI nur Bild...
Schließ deinen Monitor mal via DVI an, das Bild wird mit Sicherheit schärfer/klarer sein.
Glaube, die beiden Karten tun sich nicht viel, die AMD ist vielleicht nen Tick schneller, dafür hat die nVidia PhysX, ist die übliche Fragestellung: nVidia oder AMD. Ich vertrete das nVidia-Lager