방대한 양의 데이터를 처리하기 위한 166개 DSP 코어
Xilinx Spartan에 집적된 독보적인 알고리즘인 WTA 필터는 256FS FIR 필터를 가지고 있고 2048FS 초고속 오버샘플링이 가능한 최신 최고 수준의 디지털 필터링입니다. 이런 일련의 과정엔 매우 높은 수준의 디지털 연산이 필요하기 때문에 DAVE에는 무려 166개 DSP 코어를 장착하기에 이르렀습니다. 이것은 기존 QBD76이 18,432 개 탭 길이를 구현하고 이를 위해 18개의 DSP 코어를 내장시켰던 것과는 다른 엄청난 기술적 발전을 확인할 수 있습니다.
이러한 DAVE의 모습은 흡사 방대한 데이터를 처리하여 인간의 한계를 넘어선 알파고와 꽤 닮아 있습니다.
▲DAVE의 신호처리 과정(누르면 확대 가능합니다.)
이상적 디지털 신호를 도달한 펄스어레이 DAC
DAVE가 만들어낸 방대한 양의 데이터는 인간의 인지능력을 넘어설 만큼 많은 양과 정교한 클럭을 통해 완벽한 배치까지 이뤄냈습니다. 일반적인 DAC라면 DAC칩에서 이 신호를 변환하여 아날로그 신호를 만들어냅니다.
하지만, 코드일렉트로닉스에서는 우리가 놓친 또다른 DAC의 문제를 찾아냈습니다.
디지털 신호도 전송을 하기 위해서는 전송 매체가 필요합니다. 이상적인 디지털 신호라면 0,1로 완벽히 전송되어야 하지만, 이 매체의 영향으로 0,1의 신호 간격의 변환과정에 딜레이가 발생합니다.
위의 사진이 이상이라면 아래 사진은 실제 전송되는 디지털 신호입니다. 단순히 데이터로서의 역할로만 본다면 크게 문제될게 아니지만, 이 신호를 시간축에 맞춰서 아날로그 신호를 추론해야한다면 저 작은 딜레이로 인해 아날로그 파형에 왜곡이 생길 수 밖에 없습니다. 이 작은 딜레이는 정교한 클럭을 제공한다고 제거될 수 없는 매체의 원천적인 문제입니다.
20가지 형태의 펄스 어레이 DAC
저희는 DAVE 프로모션을 준비하며 개발자인 Rob Watts과 미팅시간을 갖기도 했는데, 그때 당시 오고 갔던 내용 중 DAC칩 관련해서 엄청난 시간을 들여 조정과정을 거쳤다고 했지만, 사실 개발자가 던지는 일상적인 이야기 정도로 생각했습니다.
하지만, 펄스의 지연값을 보완하기 위해 다양한 값을 넣는 과정은 단순히 측정데이터로는 불가하다는 사실을 이번 준비과정에서 알게 되었습니다. 측정장비의 한계로 보완값을 찾을 수 없으니, 오로지 나오는 결과값을 통해 반복적인 작업으로만 이뤄낼 수 있습니다. 더군다나 펄스의 폭에 따라 지연양상도 다르게 나타난다고 하니 엄청난 시간을 들여 DAC칩을 개발했다는 말을 수궁하지 않을 수 없었습니다.
결국 DAVE에는 총 20가지의 형태의 보완값을 넣을 수 있게 되었고 이렇게 완성된 디지털신호는 완벽한 아날로그 파형으로 변환되어 견고한 사운드를 완성시킵니다. 최근 정교한 클럭에 대한 회의(懷疑)가 불거지고 있는 상황에서 잃어버린 타이밍에 대한 해답을 코드일렉트로닉스사의 펄스 어레이 DAC의 기술에서 찾을 수 있다는 생각마저 듭니다. 정교한 클럭을 장착하여 클럭을 정확하게 맞춘다고 해도 디지털 신호의 전송에 일어난 펄스의 지연문제를 극복하지 않는한 클럭이 할 수 있는 역량은 그 한계를 드러낼 수 밖에 없습니다.
17번의 노이즈셰이핑
잡음층은 높아질수록 볼륨을 올릴 시 소란스러워지며 음의 날이 서고 악기간 분리도와 무대 깊이가 떨어지게 됩니다. 결국 이러 잡음층을 인지가능한 수치 밖으로 밀어내야만 이러한 부정적 사운드로부터 벗어날 수 있습니다. 이에 Robb은 이러한 잡음층의 영향으로부터 벗어나기위해 수개월간 노이즈 셰이퍼에만 매달렸고, 그 결과 -350dB 이하의 수치를 얻어냈습니다.
물론 그 대가로 총 46개의 적분기 연산 회로(integrator)로 이루어져 있고, 17단의 셰이핑을 거치며, 노이즈셰이퍼 하나만으로도 Hugo에 들어가는 FPGA 칩의 용량을 초과하는 데이터를 처리합니다. 세계에서 가장 거대하고 진보된 노이즈셰이퍼로서 그 어떤 DAC도 도달하지 못한 경이적인 수치의 잡음층 변조값을 얻어냈습니다.