Обычно шум квантования представляют как разность соответствующих значений реального и квантованного по уровню сигналов (рис. 1.8, а, б).
Такое представление не совсем верно.
На рис. 1.8, а на самом деле цифровой сигнал не показан. Ступенчатая линия — это отображение аналогового сигнала, восстановленного из цифрового с использованием интерполяции нулевого порядка. Если из исходного аналогового сигнала вычесть эту ступенчатую линию, то получится очень странная и некрасивая линия (рис. 1.8, б). Некоторые авторы пишут, что это и есть шум квантования. Но, во-первых, кто сказал, что нужно заменять цифровой сигнал непрерывными ступеньками, и почему именно ступеньками, а не наклонными отрезками прямых линий или кривыми? Во-вторых, в действительности мы имеем право сравнивать непрерывные и дискретные сигналы только в моменты, соответствующие дискретным отсчетам. Поэтому и шум квантования следует представлять последовательностью дискретных отсчетов (рис. 1.8, в).

Рис. 1.8. Иллюстрация процесса квантования сигнала (интерполяция нулевого порядка)
В теоретических работах для представления дискретных сигналов используют функцию отсчетов (дельта-функцию) — бесконечно большой по амплитуде и бесконечно короткий по времени импульс. Площадь дельта-функции равна единице. Разумеется, функции отсчетов в природе не существуют. На практике они заменяются прямоугольными импульсами малой длительности.
Если взять последовательность смещенных во времени функций отсчетов и умножить ее на ординаты кривой линии, соответствующей аналоговому сигналу, то получится дискретный по времени сигнал, который можно представить графически так, как показано на рис. 1.8, в. В данном случае это и есть шум квантования, представленный дискретными отсчетами.
Не существует и идеальных фильтров, с помощью которых можно было бы точь-в-точь восстановить аналоговый сигнал по его дискретным значениям. Однако в современных АЦП используются методы, позволяющие свести погрешности, обусловленные неидеальностью преобразования, к разумному минимуму.
На рис. 1.9, а показан исходный аналоговый сигнал и сигнал, восстановленный из цифрового с использованием интерполяции 1-го порядка (отсчеты соединяются отрезками прямых линий).
Видно, что разница между исходным и восстановленным сигналом (рис. 1.9, б) гораздо меньше, чем при использовании интерполяции нулевого порядка (рис. 1.8, а). А ведь в современных ЦАП используются гораздо более сложные алгоритмы восстановления аналогового сигнала.
Что касается цифрового шума квантования (рис. 1.8, в), бесспорно, при цифроаналоговом преобразовании он трансформируется в некий аналоговый шум. Вид этого шумового колебания будет зависеть от конкретного
АЦП, но его уровень будет гораздо меньше, чем уровень шумового процесса, показанного на рис. 1.8, б.
Распространенная среди сторонников аналогового звука страшилка "Результат дискретизации ужасно отличается от исходного сигнала" основана именно на неадекватном представлении шума квантования (рис. 1.8, б).

Рис. 1.10. Квантование сигнала по уровню и искажения при клиппировании сигнала
Из рис. 1.10 видно, что в случае превышения сигналом значения самого верхнего уровня квантования ("старшего" кванта), а также в случае, когда значение сигнала оказывается меньше нижнего уровня квантования ("младшего" кванта), т. е. при ограничении сигнала, возникают искажения. Они могут быть гораздо более заметными по сравнению с шумом квантования.
Для исключения искажений этого типа динамические диапазоны сигнала и АЦП должны соответствовать друг другу.
Следует упомянуть еще об одном заблуждении. Иногда им грешат даже профессиональные звукорежиссеры. Они утверждают примерно следующее: "Поведение восстановленного сигнала в промежутках между отсчетами не определено, он может изменяться произвольным образом". Однако, говоря так, они забывают о том, что спектр аналогового сигнала, подвергающегося цифроаналоговому преобразованию, обязательно должен быть ограничен. Поэтому при аналого-цифровом преобразовании его значения между дискретными отсчетами не могут быть произвольными и поддаются однозначному восстановлению по этим отсчетам.
Довольно часто изготовители, доказывая преимущество своих звуковых карт, подчеркивают такое обстоятельство, как наличие у звуковой карты цифрового входа и/или выхода. Действительно, если звуковая карта имеет выход, на который сигналы поступают не в аналоговой (после ЦАП), а в цифровой форме, это позволяет уменьшить искажения, связанные с дополнительными преобразованиями при дальнейшей цифровой обработке сигнала вне звуковой карты.
В соответствии с концепцией виртуальной студии звукозаписи вся обработка должна выполняться средствами одного PC. С помощью этого же PC можно получить и конечный продукт — компакт-диск. ЦАП высокого качества нужен только лишь для мониторинга, т. е. для того, чтобы слышать происходящее в виртуальной студии. Наличие цифрового выхода в виртуальной студии дает преимущества только тогда, когда требуется выполнить запись на DAT или подключить высококачественные акустические мониторы, снабженные цифровым входом.
Наличие цифрового входа в виртуальной студии может быть актуальным в том случае, если вас не устраивает качество работы встроенного в звуковую карту АЦП и вы хотите использовать более качественный внешний АЦП. Кроме этого, цифровой вход может быть полезен, если требуется "перегнать" запись с DAT в PC.
Шум квантования. Как с ним бороться? Если для представления звука использовать 24- или 32-битные отсчеты, то о шуме квантования можно забыть (так он слаб). Да вот беда — основным потребительским аудиоформатом является формат компакт-дисков: 16 бит/44,1 кГц/стерео. Поэтому разрядность представления звуковых данных приходится понижать. Даже при 16-битном разрешении звука шум квантования неуловимо мал, тем не менее, он обладает одной пренеприятнейшей особенностью: этот шум коррелирован с полезным сигналом. Именно шум квантования принимает самое активное участие в формировании негативного образа цифрового звука в умах людей — он плоский, металлический, пластмассовый и т. п. Как только раньше ни называли 16-битный звук! Так было до появления специальных методов обработки цифрового звука, называемых дитерингом (dithering) и нойзшейшнгом (noise shaping). Суть дитеринга состоит в том, что до понижения разрядности к полезному сигналу подмешивается очень слабый специфичный шум. В результате шум квантования попросту забивается этим шумом, который в силу своих статистических свойств гораздо меньше действует на психику человека. Конечно, в результате получается более шумная запись, но шум этот, как и шум квантования, практически неуловим на слух.
Еще один метод борьбы с шумом квантования, нойзшейпинг, заключается в применении специальных алгоритмов округления значений звуковых отсчетов при понижении разрядности. После применения нойзшейпинга большая часть энергии шума квантования сосредоточена в области высоких частот, к которым человеческий слуховой аппарат наименее восприимчив. Обычно нойзшейпинг применяется совместно с дитерингом..
Есть еще комплекс проблем: транкейт (от truncate — усечь) — то, что раньше мы называли понижением разрядности цифрового звука. Был сигнал 24-битным, стал 16-битным — произошел транкейт. С одной стороны, понижение разрядности цифрового звука дело обычное. Стоило ли вводить специальный термин? Однако термином truncate обозначают целый комплекс проблем, возникающих при работе с цифровым звуком, разрядность которого больше 16. Прежде всего, это неконтролируемое вами понижение разрядности (оно происходит втайне от вас или вы просто не обратили на него внимания). Допустим, сигнал проходит через три соединенных последовательно цифровых устройства обработки звука. Пусть для их соединения используется интерфейс S/PDIF. Внешне все кажется нормально: три красивых прибора соединены стандартными кабелями, все работает. Что еще нужно? Но кто-то из людей, коммутирующих эти устройства между собой, не разобрался в том, что только первый и последний приборы данной цепочки 24-битные, а средний 16-битный. Эти приборы легко нашли между собой язык: каждый из 24-битных приборов при установлении связи по S/PDIF выяснил, что подключен к 16-битному устройству и переключился в соответствующий режим. В результате при передаче сигнала от первого устройства ко второму произошел транкейт, причем персонал студии этого даже и не заметил. А как вы уже знаете, шум квантования 16-битного сигнала — вещь не очень приятная. Если в процессе обработки фонограммы транкейт происходит неоднократно, то качество звучания будет постепенно понижаться.
Вы скажете, что у вас нет своей цифровой студии с оборудованием стоимостью в десятки тысяч долларов. Но проблема транкейта может подстерегать вас и в персональной студии звукозаписи на базе PC. Обработали свой 24-битный WAV-файл 16-битным plug-in-модулем реверберации — вот вам и транкейт.
Единственный способ борьбы со случайным транкейтом — внимательно читайте инструкции, поставляемые с оборудованием. Что же касается программ, plug-in-модулей в частности, то для контроля за ними существуют специальные утилиты.