Ui, der Frameserver. Der ist doch übelst lahm. Ich nutze zwar selber Vegas 15, aber Magix alles andere als eine gute Firma. Alleine schon, weil sie ältere Versionen nicht mit verbesserten Encodern nachpatchen.
Wenn der TE sowieso UtVideo zum aufnehmen nutzt, exportiere die fertigen Videos wieder damit und pack das Video dann in den Encoder deiner Wahl. Braucht natürlich enorm Speicherplatz und etwas Zeit zum exportieren, aber wenn du mehrere Videos encoden willst, spart dir das am Ende Zeit, weil du dann 'besser' Batch Encoden kannst.
Außerdem wird der Frameserver seit Jahren nicht mehr weiterentwickelt. Liegt vermutlich auch mit daran, dass Magix das dafür notwendige SDK nicht rausrücken will. (sie wollen neuere Codecs lieber mit neuen Vegas Versionen verkaufen, da würde ein Encoder wie Voukoder dazwischen grätschen, wirtschaftlich ein Unding)
Mit dem Sony / Mainconcept / Magix Encoder wirst du nicht weit kommen, weil die Qualitativ einfach nix taugen. Der Mainconcept/Magix ab Vegas 15 mag gute Bildqualität raushauen, dafür sind die Dateien unverhältnismäßig groß - zu groß für die Bildqualität im Vergleich zu x264.