Wenn du ein 32bit Betriebssystem hast, darf eine Anwendung tatsächlich nur 2 GB nehmen.
Bei einem 64bit Betriebssystem darf allerdings eine Anwendung bis zu 4GB nehmen. Mit Avisynth könnte man auch die Anwendung zu zwingen nicht mehr als 4GB zu verbrauchen. SetMemoryMax(xxx)
Um 4 GB nutzen zu können, muss die Anwendung das auch unterstützen und irgendwie dem Betriebssystem oder so mitteilen, dass sie statt den 2 GB lieber 4 GB nutzen würde, sonst hat sie wie jede 32-Bit-Anwendung auch auf einem 64-Bit-Betriebssystem nur 2 GB Speicher zur Verfügung. Ob das Memory-Limit mit Avisynth funktioniert, weiß ich aber auch nicht.