Ohne in den Code zu schauen: Ich glaube, dass du dich hier in dem Fall irrst. Schau dir mal die MediaInfo von @Julien an - dort steht ohne deine Ergänzung die Farbmatrix und auch bei einem lokalen Test sieht mir das so aus, als würde die korrekte Matrix benutzt, ohne dass ich es in den x264opts spezifizieren müsste. Wenn das FFmpeg-Plug-In normalerweise BT.601 nutzt, dann wird Shotcut das BT.709 wohl aus den Projekteinstellungen (Videomodus) ziehen.
Dann erkennt das Shotcut automatisch. Weil ich hab ein RGB Video reingefeuert. Da musste das angeben.
Es schadet ja auch nicht wenn es drin steht. Beugt sogar vor versehentlich auf BT.601 zu encoden und sich später aufzuregen das die Farben mal wieder nicht so sind wie sie waren.
Das kannste definitiv drin lassen. Also bei RGB Quellen, wie bei meinen Test, baut er dir Knallhart BT.601 rein. Weil Standard.