Мать
P5K Deluxe/WiFi-AP

Кодек
ADI® AD1988B 8-channel High Definition Audio CODEC
- Coaxial / Optical S/PDIF out ports at back I/O
- ASUS Noise Filter

При соединении коаксиального выхода с ресивером он понимает только стереосигнал и работает в режиме долби сарраунд.

Можно ли настроить кодак так чтоб сигнал кодировался на коаксиал как долби диджитал и чтоб ресивер его нормально понимал как полноценный 5,1?

Если не заявлена поддержка Dolby Digital Live - то нет, нельзя

В спецификации чипа написано

S/PDIF output
44.1 kHz, 48 kHz, 88.2 kHz, 96 kHz, 176.4 kHz, and 192 kHz
sample rates
16-, 20-, and 24-bit data widths
PCM, WMA/PRO, Dolby®, AC3, and DTS® formats
Digital PCM gain control
Digital PCM ADC/stream mixer

На асус туда ещё и коаксиал встроил, вот и вопрос поддерживает ли коаксиал хотя бы дтс или он только стерео и реальный 5,1 возможен только по отически?