VAM内の設定だと、UserPreferences → Performance の中の設定をいろいろいじってみるのは、さすがに試してるよね？
Render Scale
MSAA Level
Picel Light Count
あたり・・・。
でも、Give me fps 使った時みたいに髪の毛だけが、太くなってしまう感じなら、別の症状かな・・・。
単にジャギーっぽくなってるなら、
VAM以外にもHMD側の設定でも、影響あるから基本的な使用条件はかいた方がいいと思うよ。
VRかデスクトップどっちでの話なのか、VRの場合使ってるHMDとVDとかの何経由なのか。