Ich nehme mit [lexicon]DXTory[/lexicon] sowieso in [lexicon]Lagarith[/lexicon] und YV12 auf, hatte vergessen das zu erwähnen. Ich habe auch das Debugmode [lexicon]Frameserver[/lexicon] Plugin für Vegas installiert, sodass ich bei [lexicon]MeGUI[/lexicon] gleich diese sehr kleine AVI Datei eingebe. Morgen werde ich nochmal mit deinen Tips weitertesten.
Achso. Also keine direkte Encodierung mit [lexicon]MeGUI[/lexicon]. Das kostet natürlich zusätzlich Zeit. Außerdem haste dann trotz [lexicon]Lagarith[/lexicon] eine Konvertierung drin, weil der [lexicon]Frameserver[/lexicon] kein YV12 anbietet.
Da solltest dann das nächstnaheliegende nehmen was YUY2 wäre. Aber dennoch eine Konvertierung dann. YV12 -> YUY2 -> YV12.
Des weiteren ist es natürlich ganz ganz dolle wichtig das du bei Vegas KORREKTE Angaben zum Quellmaterial hast (Datei - Eigenschaften) Steht dort in den Projekteigenschaften bullshit, was nicht zum Quellmaterial passt, entsteht auch bullshit in Videoqualität und ggf auch encodierzeit.
Natürlich verlängern auch evtl eingesetzte Filter in Vegas die Encodierzeit.
Der Ablauf ist nämlich dann so:
Vegas Filter -> [lexicon]Frameserver[/lexicon] -> Avisynth (ggf mit weiteren Filtern(mind aber YV12)) -> [lexicon]x264[/lexicon].
So einen langen Weg muss jeder [lexicon]Frame[/lexicon] gehen und darauf muss [lexicon]x264[/lexicon] ständig warten.
Du könntest es verkürzen indem du Vegas weglässt und alles mit [lexicon]MeGUI[/lexicon] machst. Dann würde außerdem die Chromakonvertierungen wegfallen, sprich du bleibst dann auf YV12 und hast kein YUY2 dazwischen, was encodierzeit weiter kürzt und die Chromaqualität bleibt besser erhalten.
Zum Thema DXTory:
Sicherstellen das du überall use default setting angehakt hast und oben das default profile ausgewählt ist. Nun folgendes:
Device: Lautsprecher (ASUS Xonar DX Audio Device)
Format: PCM 192000 Hz, 32 bit, Stereo
Also das ist schonmal vollkommener bullshit.
Lautsprecher ist ein von windows gestellter Kanal für Zusammenfassung aller wiedergabegeräte,sprich keine direkte Ansteuerung des Systemsoundes. Ergo längerer weg, mehr latenz.
Daher statt Lautsprecher - WAVE nehmen.
Dann 192khz, 32bit - ja neee 
Umändern auf 44,1 khz, 16bit, Stereo.
Das [lexicon]Mikrofon[/lexicon] ergänzen und dieses ebenfalls in 44,1 khz, 16bit, aber mono. [lexicon]Audacity[/lexicon] dann in zukunft weglassen. Unnötig, wenn du ein Programm hast, was eh mehrere Audiostreams aufzeichnen kann.. merkste sicher selber nun 
__
ThreadCount auf 2
FPS Limit RAUSNEHMEN.
Anhaken:
[lexicon]Synchronous Surface Lock[/lexicon] und [lexicon]Wait for available Buffer[/lexicon] . Auf die Wörter klicken wenn Erklärung dazu erwünscht.