Eher ein x264vfw fehlender Eintrag, denn:Das Video wird von Vegas aus über VFW als RGB Material übertragen. RGB = PC Range.
Um dafür zu sorgen das x264vfw das Video vernünftig in TV.709 bringt gehört in der "Extra command line" folgende Einträge:
--range tv --colorprim bt709 --transfer bt709 --colormatrix bt709
Und dann stimmen die Farben auch wieder.
So ziemlich jede VFW Schnittstelle eines Schnittprogrammes überträgt RGB Frames an den Encoder.
Gibt aber auch Außnahmen was dies angeht. z.B. bei Bandicam. Das ist aber nicht mal die Schuld von der VFW Schnittstelle. Bandicam nimmt von sich aus bei Aufnahmen über VFW Codecs in YUV420 auf und überträgt die Frames bereits über die VFW Schnittstelle mit einem YUV Farbraum.
Dem VFW interessiert das ja nicht was übertragen wird. Dem ist das schnurz 
@AndiK
Abgesehen von dem was ich @RealLiVe grad schrieb, musst du darauf achten das du ebenfalls in der "Extra command line" die FPS deines Videos mit angibst, die du bereits in deinem Vegas Projekt verwendest. Sonst passiert es mal ganz schnell das Sachen Asynchron werden, da der x264vfw nicht direkt mit anderen Programmen arbeiten kann. Sprich dein Vegas ist ein Programm und x264vfw ist ein Programm. Die sind beide separat. Der eine weiß also nicht was der andere tut.
Also gibt man dem Encoder auch noch die FPS Info mit in die "Extra command line"
--fps 50/1
Steht z.B. für 50 FPS. Jeweils der Zähler und Nenner.
Wenn ein Video 29.97 FPS haben soll, gibt man dies so an:
--fps 30000/1001 oder so --fps 30/1.001
Das ist ganz wichtig.
Ein weiterer Punkt ist das Video was du mit x264vfw erstellst nicht in einen AVI Container ballerst. Du hast unter dem Punkt File die Möglichkeit auch MP4, MKV oder H264 auszuwählen, wenn du auf das "..." Symbol klickst. Diese Container sind besser dafür geeignet.
Und den CRF nicht auf 1 stellen. Das ist total überzogen. Bleibe bitte bei einem CRF Encode zwischen 18 - 26 (Standard ist 23)
18 für top Qualität
23 für normale
26, wenn dir der Schuh drücken sollte und deine Finger schon krabblig sind das Video hochladen zu wollen. Qualität ist dann immer noch gut.
Den Rest belässt du einfach so wie es auf deinem Bild abgebildet war.
Und dann kannst du loslegen.