오디오, 통신, 센서 데이터처럼 컴퓨터가 실제로 다루는 신호는 두 가지 제약을 동시에 갖는다. 값이 이산적(discrete)이고, 길이가 유한하다는 점이다. 이전까지 신호 분석 이론은 무한히 이어지는 주기 신호나 비주기 신호를 다루는 이산시간 푸리에 급수(DTFS)와 변환(DTFT)에 초점을 맞췄지만, 현실의 디지털 신호 처리는 결국 "N개의 샘플"이라는 유한한 숫자 목록을 분석하는 일로 귀결된다. 이산 푸리에 변환(DFT)은 바로 이 지점을 겨냥한 도구다.
연속 주파수를 N개로 잘라내다
N개의 샘플을 가진 신호의 주파수 성분을 찾으려 할 때, 한 가지 방법은 이 구간 바깥을 모두 0으로 보고 DTFT를 계산하는 것이다. 그러나 DTFT는 주파수 w에 대한 연속 함수라서 컴퓨터에 그대로 담을 수 없다. 모든 w에 대해 값을 저장할 수 없으니 어떤 w를 계산할지 선택해야 한다. 대안은 발상을 바꾸는 것이다. 가진 것이 N개 샘플뿐이라면, 이를 어떤 주기 신호의 한 주기라고 가정할 수 있다. 그러면 DTFS로 정확히 분석하고 복원할 수 있다. 이것이 DFT의 핵심 통찰이다.
관례상 DFT는 DTFS 계수에 N을 곱한 값, 즉 X[k]=N·a_k로 정의된다. '변환'이라는 이름이 다소 낯설게 느껴질 수 있는데, 수학에서 변환이란 하나의 대상을 받아 다른 대상을 만들어내는 사상을 뜻하므로 신호 x[n]을 받아 X[k]를 내놓는 이 연산에 적절한 명칭이다. 중요한 것은 DFT가 DTFT와 긴밀히 연결된다는 사실이다. DFT는 연속 변수였던 주파수 w를 N개의 등간격 지점에서 샘플링한 결과, 즉 DTFT를 균일하게 N번 표본화한 값으로 볼 수 있다.
선형대수로 다시 보기: 푸리에 행렬
DFT가 단순한 계산 공식에 그치지 않는 이유는 그 뒤에 깔끔한 선형대수 구조가 있기 때문이다. 복소수의 N제곱근(roots of unity)들의 거듭제곱으로 만든 벡터들은 C^N 공간에서 직교 기저를 이룬다. 이들을 행으로 모으면 푸리에 행렬 F가 되고, 신호 x를 열벡터로 두면 DFT는 단순히 F·x라는 행렬-벡터 곱으로 표현된다. 연속 푸리에 급수에서 삼각함수나 복소지수함수가 제곱적분 가능한 함수 공간의 직교 기저였던 것과 정확히 대응되는, 이산 영역의 직교 기저인 셈이다.
복원(역변환)도 두 경로에서 같은 결론에 도달한다. DTFS의 복원 공식에서 출발하는 방법과, 선형대수적으로 접근하는 방법이다. 후자는 F의 각 원소를 켤레로 바꾼 행렬 F_c와 F를 곱하면 N·I(항등행렬의 N배)가 된다는 성질을 이용한다. 따라서 F의 역행렬은 (1/N)·F_c이며, DFT 벡터 X에 이를 곱하면 원래 신호가 복원된다. 서로 다른 방법이 동일한 결과를 내놓는다는 점은 이론적으로 든든한 신호다.
실무에서는 FFT와 누설
실제 코드에서 DFT를 직접 구현하면 N개의 k마다 N개 항을 더하므로 O(N²) 연산이 든다. NumPy의 fft.fft가 호출하는 고속 푸리에 변환(FFT)은 푸리에 행렬 F의 구조를 활용해 같은 F·x를 O(N log N)에 계산한다. 20세기 가장 중요한 알고리즘 중 하나로 꼽히는 이유가 여기에 있으며, 샘플 수가 커질수록 직접 계산과의 격차는 압도적으로 벌어진다. 실무에서 DFT를 '쓴다'는 것은 사실상 FFT를 호출한다는 뜻에 가깝다.
다만 주파수 분석을 할 때는 신호를 어떻게 잘라냈는지가 결과를 좌우한다. 삼각파 신호의 한 전체 주기를 그대로 담으면 블록을 반복했을 때 원래 파형이 매끄럽게 재현되고, 복원도 부동소수점 반올림 오차 수준에서 정확히 일치한다. 그러나 주기의 일부만, 예컨대 처음 10개 샘플만 잘라내면 주기적으로 이어 붙일 때 경계에서 불연속(점프)이 생긴다. 이 경우에도 DFT 계수는 계산되고 역변환으로 10개 샘플을 완벽히 복원할 수 있지만, 원래 파형의 주파수가 DFT의 주파수 빈(bin)과 어긋나기 때문에 성분이 여러 빈에 번져 나타난다. 이것이 스펙트럼 누설(spectral leakage)이다.
정리하면, 복원만이 목적이라면 누설은 문제가 되지 않는다. 하지만 어떤 주파수가 실제로 존재하는지 분석하는 것이 목적이라면, 경계의 불연속을 설명하기 위해 원래 없던 주파수 성분이 덧붙어 결과가 왜곡된다. 현실의 신호 처리에서는 샘플링 이후 신호 양 끝을 0에 가깝게 서서히 줄이는 윈도우 함수(window function)를 적용해 이 누설을 완화한다. DFT를 쓰는 사람에게 실무적 교훈은 명확하다. '정확한 복원'과 '정확한 주파수 해석'은 다른 문제이며, 분석 품질은 결국 신호를 어떻게 자르고 다듬었는가에 달려 있다.