完整搜尋頁面 →

現代觀點詳讀

選讀・IP 07・小波與其他影像轉換 的論文導讀(第 1/1 篇)。引用編號對應本頁底部的參考文獻。

導覽:本頁與本系列: 導覽:本頁與本系列

先選需要的是小波基底保證、去雜訊估計、稀疏字典,還是完整壓縮系統。

教材閱讀地圖 — 各卡片對照不同論文回答的問題;這些分類互補,不代表效能排名,也不是轉載其中一篇的架構圖。
教材閱讀地圖 — 各卡片對照不同論文回答的問題;這些分類互補,不代表效能排名,也不是轉載其中一篇的架構圖。

基礎:Mallat(1989)與 Daubechies(1988)

Mallat 的論文 [7] 為影像引入多解析度分析,建立正交小波與雙通道濾波器組之間的連結,並提出讓轉換只需 O(N)O(N) 的金字塔演算法。它也提出了分成水平、垂直、對角三個子頻帶的二維可分離分解,至今每個函式庫仍沿用。Daubechies [8] 補上了最後一塊拼圖:具有緊支撐且平滑度可選的正交小波,讓濾波器又短又實用。兩篇合起來,就解釋了 pywt.wavedec2(img, "db4") 為何存在。

教科書等級的綜覽:Vetterli 與 Kovačević(1995)

《Wavelets and Subband Coding》[2] 從訊號處理的角度建立整套理論:濾波器組、完美重建、時頻鋪磚與編碼。作者買回版權並免費公開全書,是本章濾波器組觀點最好的開放參考資料。

什麼讓小波好用:Unser 與 Blu(2003)

〈Wavelet theory demystified〉[9] 把任何尺度函數寫成一個 B 樣條(B-spline)與一個殘餘「不規則」部分的卷積,藉此以自成一體的方式重建古典理論。它的主要結論是:實務上在乎的五個性質,也就是逼近階數、多項式重現、消失矩、多尺度微分性質與平滑度,全都由那個 B 樣條因子單獨決定。想知道為什麼 db4 在平滑影像上比 Haar 好,這篇論文給了答案。

從基底到字典:Rubinstein、Bruckstein 與 Elad(2010)

〈Dictionaries for sparse representation modeling〉[16] 綜覽了從解析式轉換(傅立葉、DCT、小波及其方向性後繼者)到從資料學習的字典這段演變。它的重點是通往現代方法的橋梁:小波「少數係數就能解釋影像」的想法保留了下來,但基底變成可以訓練的東西。這條路線直接通往影像復原中的學習式先驗。

標準的實際樣貌:Skodras、Christopoulos 與 Ebrahimi(2001)

他們的 JPEG 2000 概論 [15] 說明了 DWT、雙正交濾波器、子頻帶量化與嵌入式編碼如何在真實編解碼器中組合,以及多解析度帶來了哪些功能(解析度可調性、感興趣區域編碼、無失真模式)。

古典去雜訊理論:Donoho 與 Johnstone;Chang、Yu 與 Vetterli

這幾篇收縮(shrinkage)論文 [12]、[13]、[14] 證明在小波域套一個簡單的非線性函數,對廣泛的訊號類別都接近最佳,而且依子頻帶調整門檻在實務上更有幫助。所有「對轉換係數做門檻來去雜訊」的方法,包括深度學習之前許多手工設計的先驗,都源自這些結果。

散射網路。 Bruna 與 Mallat 的小波散射轉換(wavelet scattering transform)[17] 把小波卷積、取模(modulus)非線性與平均化層層串接。它是一個濾波器固定為小波、而非經由訓練的卷積網路,具有平移不變性且對形變穩定。第一層的行為類似 SIFT 類描述子,更高層則補充更多資訊,能分辨傅立葉功率頻譜相同的紋理。它在當時的手寫數字與紋理分類上取得最佳結果,並成為解釋 CNN 為何有效的參考點:一個小波框架(如預備知識所述,是冗餘的)加上簡單的非線性,就已經能得到不變性。

把小波當成池化與降取樣層。 跨步卷積與最大池化在降取樣前沒有做適當的低通濾波,因此會混疊。Li 等人在標準分類網路中以 DWT 層取代這些運算(WaveCNet),只保留低頻子頻帶,提升了對雜訊的穩健性 [19]。在影像復原方面,Liu 等人的 MWCNN 以二維 DWT 及其反轉換取代 U-Net 的池化與反池化 [18]。由於 DWT 可逆,網路縮小特徵圖時不會遺失資訊,又能便宜地得到很大的感受野。這種「可逆且能抑制混疊的降取樣」想法,後來出現在許多影像復原與生成模型中。

大感受野。 Finder 等人的 WTConv 層(ECCV 2024)在多層 DWT 的各子頻帶上做小卷積,因此有效感受野隨層數指數成長,而參數量只隨核大小對數成長 [20]。它可以直接放進 ConvNeXt、MobileNetV2 等架構中替換原本的層,作者報告它提升了對影像損壞的穩健性,並使模型更偏重形狀而非紋理。

如何判讀這些論文的證據

基底建構、去雜訊風險結果與壓縮標準,是不同證據。基底論文建立重建、正則性質;統計去雜訊指定訊號/雜訊類別與估計器;字典改變表示及最佳化;JPEG 2000 還結合量化、熵編碼與位元串流,單一小波不是完整編碼器。

比較小波與學習表示時,須固定工作並計入所有必要步驟。稀疏程度不能單獨決定壓縮大小,白雜訊下的閾值結果也不能直接套到相關、訊號相依雜訊。邊界延拓、係數正規化與降取樣會影響重建、瑕疵。分開閱讀基礎保證、統計假設與完整系統,才能公平比較。

參考文獻

  1. R. C. Gonzalez and R. E. Woods, Digital Image Processing, 4th ed., Pearson, 2018, Ch. 7. publisher page
  2. M. Vetterli and J. Kovačević, Wavelets and Subband Coding, Prentice Hall, 1995(作者提供免費版本). book site
  3. N. Ahmed, T. Natarajan and K. R. Rao, “Discrete Cosine Transform,” IEEE Transactions on Computers, 1974. doi
  4. G. K. Wallace, “The JPEG still picture compression standard,” IEEE Transactions on Consumer Electronics, 1992. doi
  5. W. K. Pratt, J. Kane and H. C. Andrews, “Hadamard transform image coding,” Proceedings of the IEEE, 1969. doi
  6. W. K. Pratt, W.-H. Chen and L. R. Welch, “Slant transform image coding,” IEEE Transactions on Communications, 1974. doi
  7. S. G. Mallat, “A theory for multiresolution signal decomposition: the wavelet representation,” IEEE Transactions on Pattern Analysis and Machine Intelligence, 1989. doi
  8. I. Daubechies, “Orthonormal bases of compactly supported wavelets,” Communications on Pure and Applied Mathematics, 1988. doi
  9. M. Unser and T. Blu, “Wavelet theory demystified,” IEEE Transactions on Signal Processing, 2003. doi
  10. G. R. Lee, R. Gommers, F. Waselewski, K. Wohlfahrt and A. O’Leary, “PyWavelets: A Python package for wavelet analysis,” Journal of Open Source Software, 2019. doi
  11. R. R. Coifman and M. V. Wickerhauser, “Entropy-based algorithms for best basis selection,” IEEE Transactions on Information Theory, 1992. doi
  12. D. L. Donoho and I. M. Johnstone, “Ideal spatial adaptation by wavelet shrinkage,” Biometrika, 1994. doi
  13. D. L. Donoho, “De-noising by soft-thresholding,” IEEE Transactions on Information Theory, 1995. doi
  14. S. G. Chang, B. Yu and M. Vetterli, “Adaptive wavelet thresholding for image denoising and compression,” IEEE Transactions on Image Processing, 2000. doi
  15. A. Skodras, C. Christopoulos and T. Ebrahimi, “The JPEG 2000 still image compression standard,” IEEE Signal Processing Magazine, 2001. doi
  16. R. Rubinstein, A. M. Bruckstein and M. Elad, “Dictionaries for sparse representation modeling,” Proceedings of the IEEE, 2010. doi
  17. J. Bruna and S. Mallat, “Invariant scattering convolution networks,” arXiv:1203.1513, 2012. arXiv
  18. P. Liu, H. Zhang, K. Zhang, L. Lin and W. Zuo, “Multi-level wavelet-CNN for image restoration,” CVPR Workshops (NTIRE), 2018. arXiv
  19. Q. Li, L. Shen, S. Guo and Z. Lai, “Wavelet integrated CNNs for noise-robust image classification,” CVPR, 2020. arXiv
  20. S. E. Finder, R. Amoyal, E. Treister and O. Freifeld, “Wavelet convolutions for large receptive fields,” ECCV, 2024. arXiv
  21. PyWavelets developers, “Signal extension modes,” PyWavelets documentation, accessed 5 November 2026. 文件.