ильшат190,

я думаю, что если приложение использует старые API, то именно через микшер и именно на Vista и выше его как раз вырубить и можно.
Как программно работать с миксерами можете порыскать по моим топикам на тему звука.

Разница между старыми API и новыми (core audio) в том, что
в старом варианте на Виста/Win7 создаются индивидуальные миксеры (для каждого приложения свой) - система типа себя обезопасивает,
а через "core audio" могут использоваться общие регуляторы.

Если надо из самого приложения регулировать собственный звук, то все достаточно просто и моих примеров достаточно.
Если из чужого, то повозиться вам наверно придется.