Какой формат чище?

а есть в наличии акустика, позволяющая отличить MP3/OGM-320 кбит/сек от FLAC?

Из описания форматов:

DTS — алгоритм кодирования, изначально предназначенный исключительно для многоканального звука в формате 5.1. В отличие от Dolby Digital, где в потоке некоторые каналы могут отсутствовать вообще, в потоке DTS место для всех шести каналов всегда зарезервировано, и, при отсутствии реальной информации в них, это место просто пропадает. То есть при одинаковом битрейте в DTS запись 4.0 будет того же объёма, как и 5.1.

Формат DTS Stereo практически идентичен Dolby Surround. DTS поддерживает как 5.1-канальный, так и 7.1-канальный варианты звука.

DTS в домашних театрах допускает полный битрейт (1509,75 кбит/с)

FLAC (англ. Free Lossless Audio Codec) — популярный свободный кодек, предназначенный для сжатия аудиоданных без потерь.
В отличие от аудио-кодеков, обеспечивающих сжатие с потерями (MP3, WMA, Ogg Vorbis) FLAC не удаляет никакой информации из аудиопотока и подходит как для прослушивания музыки на высококачественной звуковоспроизводящей аппаратуре, так и для архивирования аудиоколлекции.

+
wave64 - size 3.05 GB
DTS-MA - size 1.23 GB
FLAC - size 693 MB !!!
link

5.1, 7.1 DTS и FLAC? Что будет лучше звучать?

скорее всего, настоящий 7.1 канальный DTS запись оркестра будет интереснее слушать чем то же самое в стерео FLAC.
Но, стоимость соответствующей 7.1 акустики будет сравнима со стоимостью отечественного автомобиля.

Поэтому, мой вариант ответа - "нет разницы".