Für die beste Bildqualität würde ich fast schon empfehlen, Sony Vegas komplett wegzulassen und einfach nur die Shadowplay-Aufnahme direkt hochzuladen.
Das spart Zeit und sieht erheblich besser aus.
Ansonsten gibt es eigentlich nur zu sagen: Mach die maximale Bitrate auf Maximum und die durchschnittliche Bitrate so hoch, wie du es eben von der Dateigröße verantworten kannst. Und ganz besonders wichtig: Achte auf die Asynchronität, die unweigerlich auftreten wird bei der Kombination Shadowplay und Vegas. Und vergiss nicht, das Resampling auszuschalten, sonst gibt es hässliche Ghosting-Effekte. 
Und nicht zu vergessen: x264vfw könnte dir ebenfalls einen deutlichen Schub an Qualität bringen, oder aber jede Menge Dateigröße einsparen. Siehe hier: x264vfw für Videoschnittprogramme
Das stimmt wohl, aber das rohe Video ohne Intro/Outro finde ich etwas zu roh... 
Für 1 min Video waren das knapp 1 GB Daten mit den Render Settings. Das Video geht 27 min. Soll man dann das Video direkt zu Youtube hochladen?
Asynchronität werde ich mal prüfen und Resampling habe ich immer aus.
Ok, schau ich mir mal an.
An den Einstellungen ist nix übertrieben sondern eher untertrieben xD
Aber wie Julien schon gesagt hat: x264vfw nutzen. Mit MainConcept kommst du generell nicht weit.
Als Tipp vorweg:
Wenn...
1) ...es nicht unbedingt notwendig ist (wenn man also mit einem Toaster aufnimmt), ...
2) ...du dein Video hinterher noch irgendwie schneiden willst, ...
...dann nimm nicht mit Shadowplay auf!!!
Das Programm ist nicht zu empfehlen, wenn du es dir nicht extra kompliziert machen willst 
Wenn du dein Video so in Vegas reinlädst, kannst du es qualitativ vergessen.
Die einzige Möglichkeit ist es das ganze mit AviSynth Filtern und einem Frameserver in Rohdaten umzuwandeln und so Vegas zu übertragen.
Das sähe ungefähr so aus: Wie kann ich jedes Format in Videoschnittprogramme importieren. Jedoch musst du noch den VFR - CFR Konverter nutzen
Der Nachteil an der Methode ist, dass Import, Filtering und Rendern länger dauern werden. Andere Möglichkeiten gibt es jedoch nicht.
Alles anzeigen
Untertrieben. xD Hab mich an die Youtube Recommondations gehalten was die Bitrate angeht.
Ok, was sollte ich dann stattdessen benutzen? OBS? Und welche Einstellungen sollte ich da benutzen?
Oh man. Das hört sich nach viel Arbeit an. 
Was gibt es denn für alternativen zu Sony Vegas was mir gute Qualität und einen "einfachen" Workflow bietet?
Das Rohmaterial von Shadowplay ist nicht asynchron was den Ton betrifft. Ich werde mal mit den Einstellungen von oben ein Render machen und mal gucken wie gross die Datei wird...
Schonmal Danke für die Antworten. 
Viele Grüße
Maurice