Als Schnibblprogramm solltest du imho das auswählen, wo Voukoder unterstützt wird
Oder einfach TMPGEnc 7 nehmen wo die guten Encoder alle schon von Haus aus dabei sind
__
3200x1800 ist die ideale Auflösung für Youtube, das ist richtig 
Vermeide in jedem Fall 1080p
Ich nehme Geforce Experience aka Shadowplay auf, und lediglich den Sound und Mikrofon mit OBS, da ich die Audiobitraten bei Shadowplay nicht geändert bekomme leider und mir die nicht ausreicht.
Die Bitrate von 130 mbit und die GOP Größe von nur 30 Frames kann man mit Cheat Engine erhöhen. Ich nehme in 250 Mbit und 300 GOP Größe auf.
mathematisch verlustfrei aufnehmen in einen VfW Codec wie ninetysix mach ich schon lange nicht mehr. Wenn die Aufnahmequalität mit großem Puffer über dem sichtbaren Verlust liegt (sprich optisch verlustfrei) hast du eig. auch bei den transcodes von dir und youtube nichts zu befürchten gegenüber mathematisch verlustfrei.
Mathematisch verlustfrei in VfW (AVI) Codec hat lediglich den Vorteil das es sich enorm leicht decodieren lässt und somit sehr schnell spulbar ist und sogar in rückwärtsrichtung sehr schnell spulbar ist. Auch die Encodierung mit einem CPU Encoder ist aus mathematisch verlustfreier Quelle heraus deutlich schneller. Mit dgindexnv als decodierung könnte es aber gleichauf liegen.
Allerdings sind die Dateigrößen von mathematisch verlustfrei viel zu massiv. Da brauchts dann ordentlich Schreibleistung von der Festplatte - dazu noch zerrt es ziemlich an der fps beim spielen, da die VfW Capture Programme nicht an den besseren Hook von OBS rankommen. Dazu noch ist es halt CPU belastung, wenn auch nicht so hoch bei verlustfreiem codec.
Shadowplay hat die fps schonenste Aufnahme, da hier direkt vom Framebuffer der Grafikkarte abgegriffen wird, statt das der Spielrenderer gestört werden muss da OBS sich dort hineinhaken muss wie auch die anderen Programme + man kann wie mit einer Capture Karte absolut alles aufnehmen. Bei OBS kommt die Szenenkomposition hinzu die halt auch GPU Leistung benötigt.
Via Nvidia Experience steuerst du quasi auch den Hardware Encoder der Grafikkarte an, exakt genau so wie man es über OBS auch tun kann
Daher ist es nicht exakt das gleiche. Du kommst an den Encoder (NVEnc) ran, allerdings nicht an dem Framebuffer Capture (NVFBC), sodass OBS sich wie gesagt noch immer in den Spielerenderer einhaken muss.
Falls du Shadowplay nutzen willst, würde ich dir auch dazu anraten es via Cheat Engine anzupassen. Wenn Interesse besteht kannste es ja sagen. Dann sag ich dir wie es mit Cheat Engine dann geht