VBR ist halt doof, weil es bauchgerate wie eh und je ist. Viele Spiele werden zb auch deine 50mbit nicht reichen. Vor allem bei NVEnc.
CQP = Jeder Frame sieht identisch aus mit dem von dir eingestellten Faktor.
Bitrate = Schwankende Qualität jeden Frames, damit immer die durchschnittliche bitrate eingehalten wird. Bitrate ist eig. nur dann sinnvoll, wenn es auf einen Datenträger muss, der aber ganz ausgereizt werden darf, aber eben nicht zu groß werden darf - oder aber bei Livestreaming.
Ansonsten ist CRF oder CQP eig. immer vorzuziehen.
Aufnahme CQP würd ich bei 16 ansetzen. Den späteren Encode kann man auch mit 19 machen.
2pass bei Aufnahme aus. Beachte auch den Hinweis mit dem VRAM Takt und NVEnc, den ich eig. schon recht oft im Forum gegeben habe.
Und 3200x1800 würd ich in jedem Fall benutzen. Gerade seitdem Youtube seit mitte Juli 2016 eh reduziert hat. 4k als auch 1440p.