現代觀點詳讀
選讀・IP 07・小波與其他影像轉換 的論文導讀(第 1/1 篇)。引用編號對應本頁底部的參考文獻。
導覽:本頁與本系列: 導覽:本頁與本系列
先選需要的是小波基底保證、去雜訊估計、稀疏字典,還是完整壓縮系統。

基礎:Mallat(1989)與 Daubechies(1988)
Mallat 的論文 [7] 為影像引入多解析度分析,建立正交小波與雙通道濾波器組之間的連結,並提出讓轉換只需 的金字塔演算法。它也提出了分成水平、垂直、對角三個子頻帶的二維可分離分解,至今每個函式庫仍沿用。Daubechies [8] 補上了最後一塊拼圖:具有緊支撐且平滑度可選的正交小波,讓濾波器又短又實用。兩篇合起來,就解釋了 pywt.wavedec2(img, "db4") 為何存在。
教科書等級的綜覽:Vetterli 與 Kovačević(1995)
《Wavelets and Subband Coding》[2] 從訊號處理的角度建立整套理論:濾波器組、完美重建、時頻鋪磚與編碼。作者買回版權並免費公開全書,是本章濾波器組觀點最好的開放參考資料。
什麼讓小波好用:Unser 與 Blu(2003)
〈Wavelet theory demystified〉[9] 把任何尺度函數寫成一個 B 樣條(B-spline)與一個殘餘「不規則」部分的卷積,藉此以自成一體的方式重建古典理論。它的主要結論是:實務上在乎的五個性質,也就是逼近階數、多項式重現、消失矩、多尺度微分性質與平滑度,全都由那個 B 樣條因子單獨決定。想知道為什麼 db4 在平滑影像上比 Haar 好,這篇論文給了答案。
從基底到字典:Rubinstein、Bruckstein 與 Elad(2010)
〈Dictionaries for sparse representation modeling〉[16] 綜覽了從解析式轉換(傅立葉、DCT、小波及其方向性後繼者)到從資料學習的字典這段演變。它的重點是通往現代方法的橋梁:小波「少數係數就能解釋影像」的想法保留了下來,但基底變成可以訓練的東西。這條路線直接通往影像復原中的學習式先驗。
標準的實際樣貌:Skodras、Christopoulos 與 Ebrahimi(2001)
他們的 JPEG 2000 概論 [15] 說明了 DWT、雙正交濾波器、子頻帶量化與嵌入式編碼如何在真實編解碼器中組合,以及多解析度帶來了哪些功能(解析度可調性、感興趣區域編碼、無失真模式)。
古典去雜訊理論:Donoho 與 Johnstone;Chang、Yu 與 Vetterli
這幾篇收縮(shrinkage)論文 [12]、[13]、[14] 證明在小波域套一個簡單的非線性函數,對廣泛的訊號類別都接近最佳,而且依子頻帶調整門檻在實務上更有幫助。所有「對轉換係數做門檻來去雜訊」的方法,包括深度學習之前許多手工設計的先驗,都源自這些結果。
散射網路。 Bruna 與 Mallat 的小波散射轉換(wavelet scattering transform)[17] 把小波卷積、取模(modulus)非線性與平均化層層串接。它是一個濾波器固定為小波、而非經由訓練的卷積網路,具有平移不變性且對形變穩定。第一層的行為類似 SIFT 類描述子,更高層則補充更多資訊,能分辨傅立葉功率頻譜相同的紋理。它在當時的手寫數字與紋理分類上取得最佳結果,並成為解釋 CNN 為何有效的參考點:一個小波框架(如預備知識所述,是冗餘的)加上簡單的非線性,就已經能得到不變性。
把小波當成池化與降取樣層。 跨步卷積與最大池化在降取樣前沒有做適當的低通濾波,因此會混疊。Li 等人在標準分類網路中以 DWT 層取代這些運算(WaveCNet),只保留低頻子頻帶,提升了對雜訊的穩健性 [19]。在影像復原方面,Liu 等人的 MWCNN 以二維 DWT 及其反轉換取代 U-Net 的池化與反池化 [18]。由於 DWT 可逆,網路縮小特徵圖時不會遺失資訊,又能便宜地得到很大的感受野。這種「可逆且能抑制混疊的降取樣」想法,後來出現在許多影像復原與生成模型中。
大感受野。 Finder 等人的 WTConv 層(ECCV 2024)在多層 DWT 的各子頻帶上做小卷積,因此有效感受野隨層數指數成長,而參數量只隨核大小對數成長 [20]。它可以直接放進 ConvNeXt、MobileNetV2 等架構中替換原本的層,作者報告它提升了對影像損壞的穩健性,並使模型更偏重形狀而非紋理。
如何判讀這些論文的證據
基底建構、去雜訊風險結果與壓縮標準,是不同證據。基底論文建立重建、正則性質;統計去雜訊指定訊號/雜訊類別與估計器;字典改變表示及最佳化;JPEG 2000 還結合量化、熵編碼與位元串流,單一小波不是完整編碼器。
比較小波與學習表示時,須固定工作並計入所有必要步驟。稀疏程度不能單獨決定壓縮大小,白雜訊下的閾值結果也不能直接套到相關、訊號相依雜訊。邊界延拓、係數正規化與降取樣會影響重建、瑕疵。分開閱讀基礎保證、統計假設與完整系統,才能公平比較。
參考文獻
- R. C. Gonzalez and R. E. Woods, Digital Image Processing, 4th ed., Pearson, 2018, Ch. 7. publisher page
- M. Vetterli and J. Kovačević, Wavelets and Subband Coding, Prentice Hall, 1995(作者提供免費版本). book site
- N. Ahmed, T. Natarajan and K. R. Rao, “Discrete Cosine Transform,” IEEE Transactions on Computers, 1974. doi
- G. K. Wallace, “The JPEG still picture compression standard,” IEEE Transactions on Consumer Electronics, 1992. doi
- W. K. Pratt, J. Kane and H. C. Andrews, “Hadamard transform image coding,” Proceedings of the IEEE, 1969. doi
- W. K. Pratt, W.-H. Chen and L. R. Welch, “Slant transform image coding,” IEEE Transactions on Communications, 1974. doi
- S. G. Mallat, “A theory for multiresolution signal decomposition: the wavelet representation,” IEEE Transactions on Pattern Analysis and Machine Intelligence, 1989. doi
- I. Daubechies, “Orthonormal bases of compactly supported wavelets,” Communications on Pure and Applied Mathematics, 1988. doi
- M. Unser and T. Blu, “Wavelet theory demystified,” IEEE Transactions on Signal Processing, 2003. doi
- G. R. Lee, R. Gommers, F. Waselewski, K. Wohlfahrt and A. O’Leary, “PyWavelets: A Python package for wavelet analysis,” Journal of Open Source Software, 2019. doi
- R. R. Coifman and M. V. Wickerhauser, “Entropy-based algorithms for best basis selection,” IEEE Transactions on Information Theory, 1992. doi
- D. L. Donoho and I. M. Johnstone, “Ideal spatial adaptation by wavelet shrinkage,” Biometrika, 1994. doi
- D. L. Donoho, “De-noising by soft-thresholding,” IEEE Transactions on Information Theory, 1995. doi
- S. G. Chang, B. Yu and M. Vetterli, “Adaptive wavelet thresholding for image denoising and compression,” IEEE Transactions on Image Processing, 2000. doi
- A. Skodras, C. Christopoulos and T. Ebrahimi, “The JPEG 2000 still image compression standard,” IEEE Signal Processing Magazine, 2001. doi
- R. Rubinstein, A. M. Bruckstein and M. Elad, “Dictionaries for sparse representation modeling,” Proceedings of the IEEE, 2010. doi
- J. Bruna and S. Mallat, “Invariant scattering convolution networks,” arXiv:1203.1513, 2012. arXiv
- P. Liu, H. Zhang, K. Zhang, L. Lin and W. Zuo, “Multi-level wavelet-CNN for image restoration,” CVPR Workshops (NTIRE), 2018. arXiv
- Q. Li, L. Shen, S. Guo and Z. Lai, “Wavelet integrated CNNs for noise-robust image classification,” CVPR, 2020. arXiv
- S. E. Finder, R. Amoyal, E. Treister and O. Freifeld, “Wavelet convolutions for large receptive fields,” ECCV, 2024. arXiv
- PyWavelets developers, “Signal extension modes,” PyWavelets documentation, accessed 5 November 2026. 文件.