テクニカルサポートから、
>Audio Toolbox のloadAudioPlugin は MATLAB Compiler ではサポートされていない
というご回答を頂きました。ありがとうございました。
コンパイルしたものからVSTを使用するのは、残念ですが諦めたいと思います。。。将来的には扱えるようになればいいなと思います。
ちなみに、コンパイラの対応表
は参照していましたが、ここに書かれている generateAudioPlugin および validateAudioPlugin だけでなく、loadAudioPlugin もサポートしていないというのが正解とのことでした。
同じ件で悩まれている方がおられましたら、ご参考まで。