補間とシームカービングを用いた
画像のリサイズに関する研究
2011 年 3 月
三柴 数
目次
第1章
1.1
1.2
1.3
第2章
2.1
序論
1
本論文の背景 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.1.1
補間処理の研究の流れ . . . . . . . . . . . . . . . . . . . . . . . .
2
1.1.2
スケーリングの問題点 . . . . . . . . . . . . . . . . . . . . . . . .
3
1.1.3
補間処理の従来法 . . . . . . . . . . . . . . . . . . . . . . . . . .
4
1.1.4
コンテンツ適応型リサイズの従来法
. . . . . . . . . . . . . . . .
5
本論文の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7
1.2.1
画像拡大 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7
1.2.2
シームカービング . . . . . . . . . . . . . . . . . . . . . . . . . .
8
本論文の構成 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8
基礎知識
10
画像拡大法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10
2.1.1
観測モデル . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10
2.1.2
観測モデルを用いた超解像処理 . . . . . . . . . . . . . . . . . . .
11
2.1.3
PSNR を用いた客観的な評価方法 . . . . . . . . . . . . . . . . .
12
2.1.4
試験用画像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15
2.2.1
事前エネルギーを用いたシームカービング . . . . . . . . . . . . .
15
2.2.2
事後エネルギーを用いたシームカービング . . . . . . . . . . . . .
17
2.2.3
計算コスト . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19
2.2.4
シームカービングを用いた画像拡大
. . . . . . . . . . . . . . . .
19
2.2.5
評価指標 BDW 距離 . . . . . . . . . . . . . . . . . . . . . . . . .
19
2.2.6
試験用画像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
21
第3章
Edge-Directed Smoothness Filter を用いた観測モデルに基づく画像拡大法
23
3.1
本章の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
23
3.2
提案法概要 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
23
3.3
Edge-Directed Smoothness Filter . . . . . . . . . . . . . . . . . . . .
24
3.4
提案法の実装方法
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
27
2.2
シームカービング
i
3.5
シミュレーションおよび考察
. . . . . . . . . . . . . . . . . . . . . . .
28
3.6
まとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
30
ブロックベースシームカービング
39
4.1
本章の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
39
4.2
ブロックベースシームカービング . . . . . . . . . . . . . . . . . . . . .
39
第4章
4.2.1
シームの定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . .
41
4.2.2
ダウンサンプリング . . . . . . . . . . . . . . . . . . . . . . . . .
41
4.2.3
事前エネルギー . . . . . . . . . . . . . . . . . . . . . . . . . . .
42
4.2.4
事後エネルギー . . . . . . . . . . . . . . . . . . . . . . . . . . .
42
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
43
. . . . . . . . . . . . . . . . . . . . . . .
44
4.4.1
画像の縮小 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
44
4.4.2
画像の拡大 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
49
まとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
50
ウェーブレット変換領域におけるシームカービング
54
5.1
本章の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
54
5.2
ウェーブレットベースシームカービング . . . . . . . . . . . . . . . . . .
54
4.3
画像拡大への応用
4.4
シミュレーションおよび考察
4.5
第5章
5.2.1
シームの定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . .
56
5.2.2
シームのエネルギー . . . . . . . . . . . . . . . . . . . . . . . . .
56
5.2.3
変換レベルの適応的変更
. . . . . . . . . . . . . . . . . . . . . .
58
5.3
シミュレーションおよび考察
. . . . . . . . . . . . . . . . . . . . . . .
59
5.4
まとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
64
シームマージング
66
6.1
本章の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
66
6.2
シームマージング
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
66
6.2.1
シームの定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . .
68
6.2.2
統合エネルギー . . . . . . . . . . . . . . . . . . . . . . . . . . .
68
実装方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
69
第6章
6.3
6.3.1
エネルギーの逐次計算 . . . . . . . . . . . . . . . . . . . . . . . .
70
6.3.2
動的計画法によるシーム探索 . . . . . . . . . . . . . . . . . . . .
71
6.3.3
画像拡大への応用 . . . . . . . . . . . . . . . . . . . . . . . . . .
72
6.4
シミュレーションおよび考察
. . . . . . . . . . . . . . . . . . . . . . .
72
6.5
まとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
75
結論
80
第7章
ii
参考文献
83
謝辞
92
iii
図目次
1.1
サンプリング周波数の変換処理 . . . . . . . . . . . . . . . . . . . . . .
3
1.2
スケーリング,クロッピング,シームカービングを用いたリサイズの比較
5
2.1
画像拡大法の評価用画像一覧
. . . . . . . . . . . . . . . . . . . . . . .
14
2.2
シームが取りうる接続方向 . . . . . . . . . . . . . . . . . . . . . . . . .
16
2.3
垂直シーム . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16
2.4
画像のエネルギーと最小累積マップ . . . . . . . . . . . . . . . . . . . .
17
2.5
シーム削除後に生じるエッジパターン . . . . . . . . . . . . . . . . . . .
18
2.6
BDW 距離測定方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20
2.7
シームカービングの評価用画像一覧 . . . . . . . . . . . . . . . . . . . .
22
3.1
ラプラシアンフィルタと EDS フィルタの適用結果の比較
. . . . . . . .
25
3.2
エッジ強度の違いによる EDS フィルタ係数の振る舞い . . . . . . . . . .
26
3.3
EDS フィルタの適用結果 . . . . . . . . . . . . . . . . . . . . . . . . .
27
3.4
画像 (3) の拡大結果の比較 . . . . . . . . . . . . . . . . . . . . . . . . .
31
3.5
画像 (7) の拡大結果の比較 . . . . . . . . . . . . . . . . . . . . . . . . .
32
3.6
画像 (21) の拡大結果の比較 . . . . . . . . . . . . . . . . . . . . . . . .
33
3.7
画像 (24) の拡大結果の比較 . . . . . . . . . . . . . . . . . . . . . . . .
34
3.8
画像 (8) の拡大結果の比較(等倍表示) . . . . . . . . . . . . . . . . . .
35
3.9
画像 (1) の拡大結果の比較(等倍表示) . . . . . . . . . . . . . . . . . .
36
3.10
画像 (18) の拡大結果の比較(等倍表示) . . . . . . . . . . . . . . . . .
37
3.11
画像 (20) の拡大結果の比較(等倍表示) . . . . . . . . . . . . . . . . .
38
4.1
ブロックシーム . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
40
4.2
ブロックの座標系
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
40
4.3
シームブロックの構成 . . . . . . . . . . . . . . . . . . . . . . . . . . .
40
4.4
ブロックベースシームカービングにおける事後エネルギーの効果
. . . .
42
4.5
縮小によって画素境界の関係が変更される画素の水平位置集合 . . . . . .
42
4.6
ブロックベースシームカービングにおける異なるブロックサイズを用い
た縮小結果-画像 (2) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
iv
47
4.7
ブロックベースシームカービングにおける異なるブロックサイズを用い
た縮小結果-画像 (16) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.8
ブロックベースシームカービングにおける異なるブロックサイズを用い
た縮小結果-画像 (24) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.9
49
ブロックベースシームカービングを用いた縮小結果の比較-画像 (11),
(13),(14),(17) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.11
48
ブロックベースシームカービングにおける異なるブロックサイズを用い
た縮小結果-画像 (1) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.10
48
51
ブロックベースシームカービングを用いた縮小結果の比較-画像 (3),(4),
(5),(18) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
52
4.12
ブロックベースシームカービングを用いた画像拡大結果の比較 . . . . . .
53
5.1
画像に対するウェーブレット変換 . . . . . . . . . . . . . . . . . . . . .
55
5.2
ウェーブレットベースシームカービングにおけるシーム . . . . . . . . .
55
5.3
多重解像度空間におけるシームの位置 . . . . . . . . . . . . . . . . . . .
55
5.4
縮小によりひずみが生じる例
. . . . . . . . . . . . . . . . . . . . . . .
58
5.5
ウェーブレットベースシームカービングにおける変換レベルの適応的変
更処理の有無による縮小結果の比較 . . . . . . . . . . . . . . . . . . . .
5.6
ウェーブレットベースシームカービングにおける開始レベルの違いによ
る縮小結果および計算速度の比較 . . . . . . . . . . . . . . . . . . . . .
5.7
60
ウェーブレットベースシームカービングにおける異なるエネルギーマッ
プの更新係数を用いた縮小結果の比較 . . . . . . . . . . . . . . . . . . .
5.8
59
61
ウェーブレットベースシームカービングを用いた縮小結果の比較-画像
(3),(6),(15),(23) . . . . . . . . . . . . . . . . . . . . . . . . . . . .
65
6.1
シームマージングにおけるシーム . . . . . . . . . . . . . . . . . . . . .
67
6.2
シームマージングを用いた画像幅縮小フロー . . . . . . . . . . . . . . .
67
6.3
シームマージングにおける考慮する接続関係によるリサイズ結果の比較 .
71
6.4
最小累積マップの計算に用いる統合エネルギーの位置関係 . . . . . . . .
71
6.5
シームマージングを用いた画像拡大結果の比較 . . . . . . . . . . . . . .
73
6.6
シームマージングを用いた縮小結果の比較-画像 (21) . . . . . . . . . . .
77
6.7
シームマージングを用いた縮小結果の比較-画像 (13) . . . . . . . . . . .
77
6.8
シームマージングを用いた縮小結果の比較-画像 (11) . . . . . . . . . . .
78
6.9
シームマージングを用いた縮小結果の比較-画像 (5) . . . . . . . . . . . .
78
6.10
シームマージングを用いた縮小結果の比較-画像 (2) . . . . . . . . . . . .
79
6.11
シームマージングを用いた縮小結果の比較-画像 (18) . . . . . . . . . . .
79
v
表目次
3.1
各画像拡大手法の PSNR および平均計算時間 . . . . . . . . . . . . . . .
28
4.1
ブロックベースシームカービングの BDW 距離 . . . . . . . . . . . . . .
45
4.2
ブロックベースシームカービングの最大 BDW 距離 . . . . . . . . . . .
46
4.3
ブロックベースシームカービングの平均処理時間 . . . . . . . . . . . . .
49
5.1
ウェーブレットベースシームカービングの BDW 距離 . . . . . . . . . .
62
5.2
ウェーブレットベースシームカービングの最大 BDW 距離 . . . . . . . .
63
5.3
ウェーブレットベースシームカービングの処理時間および各変換レベル
における縮小幅 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
64
6.1
シームマージングの BDW 距離 . . . . . . . . . . . . . . . . . . . . . .
74
6.2
シームマージングの最大 BDW 距離 . . . . . . . . . . . . . . . . . . . .
75
vi
第1章
序論
1.1 本論文の背景
視覚情報は,人々の生活において重要な役割を果たしてきた.環境や状況の判断,コ
ミュニケーションなどを行う際に,人間は視覚から得られる情報を多く用いている.その
ため,視覚情報を記録し後に残すことは古くから行われてきた.視覚情報の記録に関する
歴史は,約 32,000 年前のものとも言われているショーヴェ洞窟壁画から始まり,絵巻物,
浮世絵,絵画などを経て,写真やビデオの登場に至る.これは同時に,視覚情報の取得,
保存,表示に関する進化の歴史であるとも言える.視覚情報の取得,保存,表示のプロセ
スは,大きく分けて二つの種類がある.一つは絵画のように,人の眼により場面を取得,
人の手で媒体に記録し,記録媒体を表示媒体として用いるプロセス,もう一つは写真やビ
デオなどの映像情報のように,場面の情報を光学系を通じて媒体に記録し,これに必要な
処理を施して媒体に表示するプロセスである.後者については,記録された情報を表示媒
体に移す際に,様々な処理を加えることができるため,用途や表示媒体に合わせた柔軟な
情報の表示が可能となる.この利点による恩恵は,情報のデジタル化により飛躍的に大き
くなった.デジタルで記録された情報に対して目的に合わせた様々な処理を行うデジタル
信号処理は,芸術,報道,工業,エンターテイメントなど様々な場面で用いられ,今日で
は欠かせないものになっている.
近年のデジタル化の流れに加え,ハードウェアの性能が急速に向上したことにより,映
像を取り巻く環境は大きく変化している.デジタルカメラ,デジタルビデオカメラの普及
に伴い,一般消費者が気軽に画像や動画などのデジタル映像コンテンツを取得することが
可能となっている.また,ハードディスクドライブを始めとするデジタルデータ用の記憶
媒体の大容量化により,大量の映像情報を保存することができるようになった.さらには
ブロードバンドの普及により,映像をオンラインで共有し友人や家族の間で見て楽しむこ
とが一般的になっている.
このような映像の取得,保存,伝送に関する目覚ましい技術革新と共に,映像を表示す
るためのデバイスについても大きな変化が起こっている.例えば代表的な表示デバイスで
あるテレビは,以前は走査線が 525 本(NTSC 方式)の標準画質映像を表示するものが一
般的であったが,現在は 1, 000 本を超える走査線を持つハイビジョン映像に対応した機器
1
が広く普及し始めている.さらにテレビ以外にも,ディスプレイを持つデバイスとして,
iPod*1 などの小型メディアプレイヤー,携帯電話,PDA といったモバイル機器や,パー
ソナルコンピュータなどが急速に普及し始めた.これらのディスプレイのアスペクト比
(縦横比)は,デバイスによって様々である.
このように映像情報が容易に取得,保存でき,表示サイズが多様化する中で,新たな要
求が生まれている.それは,これまでに保存した映像や新たに取得する映像を多様なデバ
イスそれぞれに対して最適な形で表示したい,というものである.例えば,以前に保存し
た標準画質映像をハイビジョン機器で再生したい,といったものや,デジタルカメラで撮
影されたアスペクト比 4 : 3 の画像をディスプレイのアスペクト比が 16 : 10 の PC 用モ
ニタや 3 : 2 のモバイル機器で閲覧したい,といったものである.これらの要求は,映像
とそれを表示するデバイスの間で解像度*2 が異なるために生じており,映像の解像度をデ
バイスに対して適切に合わせる処理が必要となる.
この処理は解像度を増加または減少させる処理であり,現在ではこの処理の多くはデジ
タル信号処理を用いて行われる.特に,解像度を増加させる補間処理はデジタル信号処理
の中でも基本的な処理として,数多くの研究が行われている.また,補間処理自体はデジ
タル信号処理が誕生する遥か前から用いられ,研究が進められてきた.次に,補間に関し
てこれまでに行われてきた研究の概要と,それらが直面している問題点について述べる.
1.1.1 補間処理の研究の流れ
補間の目的は,存在しないデータを元のデータから推定し,確からしいデータを得るこ
とである.元のデータは離散的に得られるため,ここから連続関数を構築し存在しない
データを得ることが,補間処理の基本となる.補間を用いることにより明らかにされてい
ないデータを得る試みはデジタル画像処理に限らず様々な分野で行われてきており,そ
の歴史は紀元前にまでさかのぼる [1].農業において特に重要であった太陽,月,惑星,
恒星の位置などを記録した天体暦を作成する際に,気象条件や天体が一定期間見えない
ことによって生じるデータの空白を埋めるために,補間処理を行っていたと考えられて
いる [2, 3].また,ギリシャの天文学者 Hipparchus (190-120 BC) は”chord function”と
呼ばれる表の作成に,現在でもよく用いられる線形補間を用いたと考えられている [4].
その後も,数学,物理,天文学など様々な分野で補間に関する研究は進められた [5–13].
1915 年に Whittaker が文献 [7] に記した”cardinal function”と呼ばれる補間関数は,離
散化された関数に対する,特異点を持たず,急激な発振が起こらない滑らかな補間を得る
ために考えられた.この補間が,現在の信号処理の分野では欠かせないサンプリング定理
と深く関わっていることは興味深い.1970 年代初頭にデジタル画像処理の研究が本格的
*1
iPod は,Apple Inc. の商標である.
*2
解像度という用語は様々な文脈で使われ,文脈により意味が異なる場合がある.本論文では,画像のサ
イズ(または画素数)を解像度と呼び,標準画質映像のようなより小さな画像サイズのものを低解像度,
それを拡大して得られるようなより大きな画像サイズのものを高解像度画像と呼ぶ.
2
x(n)
-↑L
図 1.1
- h(k)
-↓ M
- y(m)
サンプリング周波数の変換処理.
に始まり,この頃に,現在でも最も有用な補間手法の一つである三次たたみ込み補間が開
発された [8–10].
ここまで解像度を増加させる補間についてのみ述べてきたが,デジタル信号処理では解
像度の増加および減少処理は一つの枠組みで表される.これらの処理は,デジタル信号の
サンプリング周波数を変換する処理であり,次のように考えられる.有理数の倍率で信号
のサンプリング周波数を変換する処理は,L,M を整数として入力信号 x(n) を L 倍アッ
プサンプリングした後に,補間関数 h(k) により補間を行い,M 倍ダウンサンプリングす
ることにより,出力信号 y(m) を得る処理である.この処理は図 1.1 のように表される.
ただし,L < M の場合はエイリアシングと呼ばれる信号の折り返しを防ぐために,サン
プリング定理に基づき入力信号を帯域制限した後に補間関数を用いた補間を行う.
サンプリング周波数の変換処理は,離散信号に対して適用できるものであり,当然離散
信号である画像に対しても適用することができる.画像信号の場合,L > M の場合は画
像の拡大処理となり,L < M の場合は画像の縮小処理となる.前述の線形補間,三次た
たみ込み補間それぞれを二次元に拡張したバイリニア,バイキュービック補間は,一般的
な画像拡大法として広く用いられている.しかしこれらの補間法は元々離散的に得られた
データから連続関数を構築しデータを推定するための手法であり,これを画像に適用した
ときに,必ずしも視覚的に好ましい画像が得られるわけではない.本論文では画像の解像
度変換処理全般をリサイズと呼び,サンプリング周波数の変換処理を用いた画像のリサイ
ズ処理をスケーリングと呼ぶこととする.次項に,スケーリングを用いて画像の縦横の解
像度を同一の割合でリサイズする場合と,異なる割合でリサイズする場合に分けて,ス
ケーリングの問題点を述べる.
1.1.2 スケーリングの問題点
画像の縦横の解像度を同一の割合でリサイズする処理は,画像編集の中でも最も用いら
れる処理の一つである.しかし,スケーリングを用いて画像を縦横均一に拡大する場合,
いくつかの問題に悩まされる.その一つが画像に発生するぼけである.スケーリングはサ
ンプリング定理に基づいて行われるため,元の画像が持つ周波数以上の信号を得ることが
できない.そのため得られる信号は滑らかであり,画像として見たときにこれがぼけとし
て表れる.ぼけによって細部の描画やエッジの明瞭さが得られず,解像度が増加するとぼ
けの影響が目立つ.また,解像度の低さのためにエッジが途切れている画像を拡大する
と,拡大した画像のエッジも同様に途切れてジグザグ状のアーチファクトとなる問題もあ
3
る.一方で,スケーリングを用いて画像の縦横を均一に縮小する場合には,画像を拡大す
る場合とは異なる問題がある.画像を構成する要素は一般的に,主要被写体などの注目オ
ブジェクトと視覚的にあまり重要でない背景で構成されることが多い.注目オブジェクト
は,画像の内容を伝えるうえで重要な役割を果たしているため,縮小されることは好まし
くない場合がある.しかしスケーリングによる縮小では,注目オブジェクトは背景と同じ
割合で縮小されてしまう.
画像の縦横の解像度を異なる割合で変更する処理は,アスペクト比の変更処理と呼ばれ
る.スケーリングを用いてアスペクト比を変更すると,画像が引き伸ばされたり押しつぶ
されたりする視覚的に好ましくない画像が生成される.この例を図 1.2(b) に示す.背景
などの変化が少ない領域はひずみが目立たないが,例えば人の顔や主要被写体などの注目
オブジェクトはその縦横の比率が変わることにより大きな違和感を生じる.これを避ける
ための処理として,画像の一部を切り取ることでアスペクト比を変更するクロッピング処
理がある.しかし図 1.2(c) の例のように,クロッピング処理によって注目オブジェクト
が削除される場合があるため,常に用いることができるわけではない.
以上のスケーリングにおける問題点をまとめると次のようになる.縦横均一に拡大する
リサイズを行う場合には,ぼけやジグザグ状のアーチファクトの発生により視覚的に好ま
しい拡大画像が得られない.それ以外のリサイズを行う場合には,人の顔や主要被写体な
どの視覚的に重要な領域が変化してしまう.これらの問題を解決するために,スケーリン
グ以外の新たなアプローチでリサイズを行う手法が数多く研究されている.これらについ
ては,まず 1.1.3 項で前者の問題を解決するための新たな補間処理について述べる.後者
の問題に対しては,コンテンツ適応型リサイズと呼ばれる新たなリサイズ手法による解決
が提案されており,これについては 1.1.4 項で述べる.
1.1.3 補間処理の従来法
拡大画像を得る手法には,大きく分けて二つのタイプの手法が存在する.一つは 1 枚の
画像を用いて 1 枚の拡大画像を得る手法,もう一つは複数枚の画像を用いて 1 枚の拡大画
像を得る手法である.後者の処理は特に超解像 (super resolution) 処理と呼ばれ,複数枚
の画像を用いることでそれぞれの画像が持つ周波数を超えた周波数を含む 1 枚の画像を生
成する技術である [14–42].近年の研究では,1 枚の画像を用いて拡大画像を得る場合に
ついても,その方式によっては超解像処理と呼ばれることがある.本論文では,1 枚の画
像を用いて 1 枚の拡大画像を得る手法を単に画像補間処理,複数枚の画像を用いて 1 枚の
拡大画像を得る手法を超解像処理,と区別して表記する.超解像処理は,一般に画像補間
処理に比べ高い解像感を持つ画像を生成できるが,時間または空間的にわずかにずれがあ
る複数枚の入力画像を必要とする.本論文では,より汎用性の高い画像補間処理に関して
議論を進める.
古典的な画像補間手法であるバイリニア補間法やバイキュービック補間法 [43] は,ぼけ
4
(a) 原画像
(b) スケーリング
図 1.2
(c) クロッピング
(d) シームカービング
スケーリング,クロッピング,シームカービングを用いたリサイズの比較.
やエッジがジグザグ状になるアーチファクトなどにより,質の高い画像拡大を行うことが
できない.近年,これらの問題を解決しようと,数多くの手法が提案されている [44–64].
様々なアプローチがあるためその全てをここで述べることはできないが,以下に代表的な
補間手法をいくつか挙げる.Allebach ら [44] は,高解像度のエッジマップを生成し,エッ
ジを横切らないようにバイリニア補間を行うことで,拡大画像を得た.Jensen ら [45] は,
サブピクセル位置のエッジを求め,ステップエッジにフィットするように高解像度画素を
補間した.Li ら [46] は,原画像の局所的な共分散から推定した拡大画像の局所的な共分
散を用いて画像拡大を行った.Wu ら [47] は,原画像における区分的な自己回帰モデルを
用いて,原画像の局所的な画素構造を保つ拡大画像の推定を行った.これらの手法に見ら
れるように,多くの手法はエッジの位置や方向,画素の構造などを利用して,視覚的によ
り好ましい画像を得ようとしている.それぞれの手法における利点は様々で,アーチファ
クトが少ない,ノイズに強い,エッジが滑らである,計算コストが低い,など異なる利点
を持ち,用途に応じて適切な手法が使われている.
1.1.4 コンテンツ適応型リサイズの従来法
コンテンツ適応型リサイズとは,画像の内容に応じて適切なリサイズを行うための手法
であり,近年数多くの手法が提案されている [65, 66].スケーリング処理は,画像の内容
を考慮しない均一なリサイズを行う.これに対してコンテンツ適応型リサイズは,画像の
内容によって異なるリサイズを行う.この処理は,例えば背景のように目立たない領域は
5
大きくリサイズし,前景のように重要な領域はひずみを生じさせないようにするために余
りリサイズしないことで,画像全体のリサイズを行う.ここで述べたものは処理の一例で
あり,実際には様々なアプローチを用いた手法が提案されている.代表的な手法として
は,コンテンツ適応型クロッピング [67–75],メッシュベース法 [76–91],シームカービン
グ [92–100] の三つが挙げられる.各アプローチにはそれぞれ利点,欠点,リサイズ画像
を得るための計算方法などが異なっている.これについては文献 [65] が詳しい.どの手
法を用いるかは,リサイズ画像が必要な状況やその用途に大きく依存するため,一概に優
劣をつけることはできない.しかしどの手法も,より好ましいリサイズ画像を得ることが
目標であることは言うまでもない.
では,どのようなリサイズが好ましいのだろうか.画像リサイズの目的は,原画像 I を
よく表す所望サイズのリサイズ画像 I ′ を得ることである.リサイズ画像 I ′ が原画像 I を
よく表していることを測るための指標や明確な定義は今のところ存在しないが,Shamir
らは文献 [66] において,リサイズのための三つの主な目標を以下のように述べている.
1. I の重要なコンテンツは I ′ において保持されているべきである.
2. I の重要な構造は I ′ において保持されているべきである.
3. I ′ は視覚的なアーチファクトを含むべきではない.
これらに加えて,リアルタイム性が求められるアプリケーションや多くの画像を処理する
場面では,計算コストの低さが求められる.ここで,コンテンツとは例えば人物の顔や主
要被写体などを,また構造とは最も単純なものでは直線や曲線などを指す.しかし,コン
テンツや構造が具体的に何であるかはアプリケーションに依存する.
様々なコンテンツ適応型のリサイズ手法が提案されている中で,Avidan らが提案した
シームカービング [92] は視覚的に好ましいリサイズ画像を生成する手法として注目を集
めている.シームカービングは,シームと呼ばれる画素のパスを削除することにより,画
像の高さまたは幅を一度の処理で 1 画素縮小するリサイズ手法である.手法の詳細につい
ては 2 章で述べる.
シームカービングが提案されて以降,より質の高いリサイズ画像を得るために,いくつ
もの改良手法が提案されている.それらを大別すると,コンテンツを保持するためのアプ
ローチと,アーチファクトを抑制するためのアプローチの二つに分けられる.以下に,そ
れぞれの代表的な手法の概要について述べる.
コンテンツを保持するためのアプローチ
リサイズにおいて,視覚的に重要なコンテンツを保持することが,好ましい画像を得る
ために重要である.そのため,視覚的に重要な領域の決定方法についての研究が多くなさ
れている.Han ら [97] は,ウェーブレット解析が人間の視覚系と似た処理を行っている
ことを利用し,ウェーブレット変換により得られるサブバンド信号をエネルギーとして用
いた.また Achanta ら [99] は,カラー情報を用いて計算される視覚顕著性マップをエネ
6
ルギーとして用いた.
アーチファクト抑制のためのアプローチ
リサイズにおいて,違和感の原因となるアーチファクトの発生を抑えることは重要であ
る.オリジナルのシームカービング手法 [92] は,特定の領域が集中的に削除されること
により不連続な部位が発生することがある.そこで Cho ら [100] は,削除した画素が持
つエネルギーを周辺の画素に分配するエネルギーの更新方法を用いることにより,この問
題の発生を抑制した.Rubinstein ら [93] は,削除後に生じるエネルギーを定めることに
より,削除前後でエッジが不連続になることを抑制した.この手法については 2.2.2 項で
詳細を述べる.
1.2 本論文の目的
前節ではまず,リサイズの必要性と,スケーリングを用いたリサイズにおける問題点に
ついて述べた.そして,その問題を解決するために行われている近年の研究について述べ
た.ここで取り上げた研究は,大きく分けて二つである.一つは新たな画素補間法を用い
た画像拡大手法,もう一つはコンテンツ適応型リサイズ技術のシームカービングである.
これらの研究により,リサイズにおけるいくつかの問題は改善されているが,解決すべき
課題も多く残されている.そこで本論文では,新たな画素補間法を用いた画像拡大および
シームカービングに焦点を当て,これらの問題点を明らかにするとともに,その解決策を
提案する.以下に,まず 1.2.1 項で画像拡大について,次に 1.2.2 項でシームカービング
について,本研究で扱う問題と,それを解決するための提案法の概要について述べる.
1.2.1 画像拡大
1.1 節でも述べたように,ハイビジョン機器の普及により,より高い解像度の画像を得
るための画像処理技術は重要性を増している.それ以外にも,監視カメラなどで取得され
る画像の解像度を上げたり,画像の一部を拡大して用いたりすることは多い.このように
様々な場面で画像拡大が必要とされているため,これまでに数多くの画像拡大に関する研
究が行われている.これについては 1.1.3 項において,より視覚的に好ましい拡大画像を
得るための手法をいくつか紹介した.しかしこれらの手法の多くは,計算コストの高さが
問題となっている.また,視覚的に好ましい画像を生成できる場合がある一方で,エッジ
の急峻さが過度に強調されたり,エッジを滑らかに接続しようとし過ぎた結果細部が消失
したり,本来の画素構造とは異なる不適切な補間が行われたりと,スケーリングを用いた
場合とは異なるアーチファクトが発生することがある.大量の画像や動画を拡大する場面
では,アーチファクトを抑えた視覚的に好ましい拡大画像をより高速に生成することが重
要である.
そこで本研究では,アーチファクトが少なく,エッジ方向の滑らかさを持つような拡大
7
画像を高速に得るための新たな画像拡大手法を提案する.提案法は,前述の超解像処理に
おいてしばしば用いられる,観測モデルを用いた高解像度化手法に着目し,原画像と拡大
画像の関係を観測モデルを用いて定式化する.また,Edge-Directed Smoothness Filter
と呼ばれるエッジ方向の滑らかさを測るためのフィルタを導入し,これを用いて拡大画像
に対する制約付けを行う.これにより,エッジ方向の滑らかさを持つ画像を得ることが可
能となる.提案法の詳細については,3 章で述べる.
1.2.2 シームカービング
各デバイスの表示サイズに最適な画像を得るために,画像のアスペクト比を変更しなく
てはならない場面が増えている.これについては 1.1 節で述べたが,アスペクト比の変更
が必要な場面は,これにとどまらない.例えば,画像を印刷する場合においても,用紙の
サイズは多岐にわたる.広告などのデザインの一部に画像を用いる場合,画像に用いるこ
とができる領域のアスペクト比と,画像自身のアスペクト比が異なることは多い.ウェブ
ページのブラウジングにおいては,表示環境に対してテキストと画像のバランスを考慮し
た動的なレイアウト変更が必要であり,その場合は画像サイズをレイアウトに適応させる
ことが好ましい.このように,様々な場面で画像サイズを変更する必要があるが,シーム
カービングはそのような要求に対して,質の高いリサイズ画像を生成できる技術として注
目されている.
さて,1.1.4 項においてリサイズの目標として,コンテンツの保持,構造の保持,アー
チファクトの抑制,の三つがあることを述べた.さらに,アプリケーションによってはリ
サイズ処理の計算コストの低さが求められることを述べた.しかしシームカービングに関
して,コンテンツの保持およびアーチファクトの抑制に関する研究は行われているが,構
造の保持および計算コストの削減についての研究はほとんど行われていない.
そこで本研究では,シームカービングにおける構造の保持および計算コストの削減に焦
点を当て,これらを実現するための新たな手法を提案する.4 章と 5 章では,シームカー
ビングにおける計算コストの高さを解決するための二つのアプローチを述べる.4 章で
は,従来のシームカービングをブロックベースの処理に拡張することで,計算コストを削
減する手法を述べる.5 章では,ウェーブレット変換領域上でシームカービングを行うこ
とにより計算コストを削減する手法を述べる.シームカービングにおいて画像中の構造が
ひずむ問題に対しては,6 章で新たに提案するシームマージングと呼ばれるリサイズ手法
を用いてこれを解決する.
1.3 本論文の構成
本論文は,以下のように構成される.2 章では,本研究を理解するうえで必要となる基
礎知識や関連研究,評価方法や評価に用いる画像について述べる.3 章から 6 章は,本研
究で新たに提案する手法について述べる.3 章は補間処理を用いた画像拡大について,4
8
章と 5 章はシームカービングの高速化について,6 章は画像中の構造を保持する新たなリ
サイズ手法について述べる.最後に 7 章で全体を総括し,本研究の成果を述べる.
9
第2章
基礎知識
本章では,本論文の内容を理解する上で必要となる基礎知識や関連研究,さらには評価
方法や評価に用いる画像について述べる.2.1 節では画像拡大法,2.2 節ではシームカー
ビングについて述べる.
2.1 画像拡大法
本研究では,アーチファクトが少なく視覚的に好ましい質の高い拡大画像を得るための
手法として,超解像処理で用いられる観測モデルに基づく画像拡大手法を提案する.本節
では,その基礎知識としてまず 2.1.1 項で観測モデルについて,次に 2.1.2 項で観測モデ
ルを用いた超解像処理について述べる.また,画像拡大手法の精度を客観的に評価する方
法を 2.1.3 項で述べ,評価に用いる画像を 2.1.4 項で紹介する.
2.1.1 観測モデル
観測モデルとは,高解像度画像と,それを観測することによって得た低解像度画像の関
係を表したモデルである.より具体的には,高解像度画像をある撮像システムを通して観
測する過程で,撮像システム内で変形,ぶれ,ダウンサンプリングが行われ,低解像度画
像が得られる,としたものである.ここで,高解像度画像は,空間的に連続する場面をナ
イキスト周波数を超える周波数でサンプリングした理想的な画像とする.変形は,カメラ
の位置や向きが変化することによって生じる,高解像度画像と低解像度画像との相対的な
位置の変化を表す.ぶれは,撮像システム内における光学的な劣化を表す.ダウンサンプ
リングは,撮像システムの素子数の制限により,高解像度画像の画素が間引かれる処理を
表す.これら変形,ぶれ,ダウンサンプリングに加え,観測の過程でノイズの付加により
劣化した結果得られたものを低解像度画像としている.
さて,サイズ L1 N1 × L2 N2 の高解像度画像を観測することにより,p 枚のサイズ
N1 × N2 の低解像度画像を得る場合を考える.L1 ,L2 はそれぞれ水平方向,垂直方向の
ダウンサンプリング係数である.ここで,高解像度画像の画素を辞書式配列で並べたベク
T
トルを h = [h1 , h2 , . . . , hN ] ,k 番目の低解像度画像の画素を辞書式配列で並べたベクト
10
T
ルを fk = [fk,1 , fk,2 , . . . , fk,M ] とする.ただし k = 1, 2, . . . , p,N = L1 N1 × L2 N2 ,
M = N1 × N2 である.このとき,高解像度画像と p 枚の低解像度画像の関係を表す観測
モデルは,以下の式で表される.
fk = DBk Mk h + nk
(2.1)
ここで,Mk はサイズ L1 N1 L2 N2 × L1 N1 L2 N2 の変形行列,Bk はサイズ L1 N1 L2 N2 ×
L1 N1 L2 N2 のぶれ行列,D はサイズ (N1 N2 )2 × L1 N1 L2 N2 のダウンサンプリング行列,
nk はノイズ成分を表すベクトルである.また,変形,ぶれ,ダウンサンプリングによる
劣化過程をまとめて行列 Wk で表すことで,観測モデルを
fk = Wk h + nk
(2.2)
と表すこともできる.ここで,Wk はサイズ (N1 N2 )2 × L1 N1 L2 N2 の行列である.
2.1.2 観測モデルを用いた超解像処理
超解像処理は,高解像度画像 h を複数の低解像度画像 fk から推定し,再構成する処理
である.本項では,観測モデルを用いて超解像処理を行う際にしばしば用いられている手
法について述べる.
観測モデルを元に高解像度画像を得るには,式 (2.2) における既知の fk から未知の h
を求めればよい.劣化過程 Wk は未知である場合が多く,その場合は劣化過程を h とは
別に,または h と同時に求める必要がある.ここでは簡潔な議論のために,Wk が既知の
場合を考える.式 (2.2) をなるべく満たすような ĥ は,例えば以下のように表される.
ĥ = argmin
h
p
∑
∥fk − Wk h∥2
(2.3)
k=1
しかしこの画像再構成問題は,一般的に不良設定問題であることが多い.これは,ぶれに
よって情報が失われるためや,低解像度画像の数が十分に得られないためである.そのた
め,画像に対する事前知識を用いて,画像再構成問題を不良設定問題から良設定問題へと
変換する.このように,不良設定である逆問題を安定化し良設定問題にする行為を正則
化と呼ぶ.式 (2.3) は,正則化することにより以下の制約付き最小二乗問題として表され
る [101].
[
ĥ = argmin
h
p
∑
]
∥fk − Wk h∥2 + λ∥Ch∥2
(2.4)
k=1
ここで,C として一般にハイパスフィルタが用いられる.これは,一般的な画像は滑らか
で高周波成分はわずかしかない,という画像に対する事前知識を仮定として用いるためで
ある.式 (2.4) において,λ は正則化パラメータと呼ばれ,高解像度画像における低解像
度画像に対するデータの忠実性と滑らかさのトレードオフを調整する.λ が大きい場合は
11
一般的に,滑らかな再構成画像が得られる.大きな λ の使用は,低解像度画像の数が少な
い場合や,複数の低解像度画像間の位置合わせエラーやノイズの量が多くデータの信頼性
が低い場合に有効に働く.一方で,多くの低解像度画像を用いることができる場合やノイ
ズの量が少ない場合,小さな λ の使用が有効に働く.
式 (2.4) におけるコスト関数は凸で微分可能である.そのため,式 (2.4) のコスト関数
を最小にする唯一の解を求めることができる.式 (2.4) におけるコスト関数を F (h) とお
き h で偏微分すると,以下の式が得られる.
∂F
=2
∂h
{(
p
∑
)
WkT Wk + λCkT Ck
h−
k=1
p
∑
}
WkT fk
(2.5)
k=1
上式より,コスト関数 F (h) を最小にする解 ĥ は以下の式を満たす h であることが分
かる.
(
p
∑
)
WkT Wk
+
λCkT Ck
h=
k=1
p
∑
WkT fk
(2.6)
k=1
これは,h に関する大規模連立一次方程式である.大規模連立一次方程式を解く手法は
数多く提案されている [102–108].特に Hestenes らによって発表された共役勾配法 [102]
や,その改良手法は多くの場面で用いられている.これらの手法を用いて連立一次方程式
を解くことで,高解像度画像を得る.
2.1.3 PSNR を用いた客観的な評価方法
本項では,画像拡大法の拡大精度を客観的に評価するために広く用いられている評価方
法 [109] について述べる.まず試験用画像にエイリアシングを防ぐための低域通過フィル
タを適用し,サブサンプリングにより縦横の解像度を 1/n にした画像を得る.次にこの
画像に対して画像拡大手法を適用し解像度を n 倍にすることで,原画像と同じ解像度の拡
大画像を得る.最後に原画像と拡大画像間のピーク信号対雑音比(Peak Signal-to-Noise
Ratio: PSNR)を求める.
PSNR[dB] = 10 log10
(
MAX2
MSE
)
(2.7)
ここで MSE は原画像と拡大画像との平均二乗誤差(Mean Square Error),MAX は画
素の取りうる最大値を表す.必ずしも PSNR のみで拡大画像の質を評価することはでき
ないが,本論文では一つの指標として用い,PSNR の値が高いほど拡大の精度が高いと
する.
2.1.4 試験用画像
画像拡大法の有効性を評価するための試験用画像として,図 2.1 に示す 24 枚のグレー
スケール画像を用いる.これらの画像は,しばしば画像処理の分野で様々な試験に用いら
12
れており,標準画像と呼ばれている.人物や風景,その他の様々な画像に対する画像拡大
法の有効性を評価するために,試験用画像には標準画像の中からこれらを含む多くの画像
を選択した.
13
(1)Airplane
(2)Baboon
(3)Barbara
(4)Boat
(5)Building
(6)Cameraman
(7)Cartoon
(8)Chart
(9)Elaine
(10)Finger
(11)Goldhill
(12)Grass1
(13)Grass2
(14)Housed
(15)Lenna
(16)Man
(17)Pepper
(18)Room
(19)Station
(20)Tank
(21)Watch
(22)Wheel
(23)Wood
(24)Zone plate
図 2.1 画像拡大のシミュレーションに用いた画像.画像サイズは 512 × 512.
14
2.2 シームカービング
本節ではシームカービングとその関連研究について述べる.まずシームカービングの詳
細について 2.2.1 項で述べ,2.2.2 項で Rubinstein ら [93] が提案したシームカービングの
改良手法について述べる.2.2.3 項では,シームカービングの処理手順について簡単にま
とめ,処理の計算コストについて言及する.シームカービングは基本的には画像幅を縮小
するための手法として用いられるが,画像幅を拡大することも可能である.これについて
は 2.2.4 項で述べる.2.2.5 項では,シームカービングなどのリサイズ手法を評価するた
めの指標の一つである,BDW 距離について述べる.最後に,評価に用いる画像を 2.2.6
項で紹介する.
2.2.1 事前エネルギーを用いたシームカービング
シームカービング [92] は,Avidan らによって提案された,新たなコンテンツ適応型リ
サイズ手法である.シームカービングは,シームと呼ばれる画素のパスを削除することに
より,画像の高さまたは幅を一度の処理で 1 画素縮小する.また,シームを挿入すること
で,画像サイズの拡大を可能にする.シームは,画像の上から下または左から右まで連な
る,8 連結性の画素のパスとして定義される.
サイズ h × w の画像 I における垂直シームは以下の式で表される.
sx = {sxi }hi=1 = {(i, x(i))}hi=1 s.t. ∀i, |x(i) − x(i − 1)| ≤ 1.
(2.8)
ここで x(i) は i 行目の画素が取りうる列番号を表す.図 2.2 に表されるように,ある画素
の下に続くシームの接続方向は 3 通りある.図 2.3 に垂直シームの例を示す.水平シーム
についても同様に,以下の式で表される.
w
sy = {syj }w
j=1 = {(y(j), j)}j=1 s.t. ∀j, |y(j) − y(j − 1)| ≤ 1.
(2.9)
ここで y(j) は j 列目の画素が取りうる行番号を表す.画像の幅を縮小する場合は垂直
シーム(高さを縮小する場合は水平シーム)を一つ取り除き,これにより画素が失われた
部分を補償するために左(上)に画素を移動させることで,1 画素分の幅(高さ)を縮小
する.このシームの削除によって影響される領域は,シーム周辺のみに限定される.その
ため,適切なシームを選択することで,保持したい領域を変化させずに画像のサイズを縮
小できる.
シームカービングにおいて最も重要なことは,取り除くシームをどのように選択するの
か,である.画像中の重要なコンテンツを保持したまま画像サイズの縮小を行う場合,画
素ごとの重要度を定め,その総和が最も少なくなるシームを選択すればよい.ここで画素
の重要度を表すエネルギー関数を E とすると,画像の横幅を縮小する場合,次式で表さ
15
I(i-1, j-1)
I(i, j-1)
I(i-1, j) I(i-1, j+1)
I(i, j)
I(i, j+1)
I(i-1, j-1)
I(i, j-1)
図 2.2
図 2.3
I(i-1, j) I(i-1, j+1)
I(i, j)
I(i, j+1)
I(i-1, j-1)
I(i, j-1)
I(i-1, j) I(i-1, j+1)
I(i, j)
I(i, j+1)
シームの接続方向.
垂直シームの例.図中の白いパスがシームを表している.
れる最適な垂直シームを選択する.
∗
s = argmin
s
h
∑
E(si )
(2.10)
i=1
ここで E(si ) は,シームが取り除かれる前に定めたエネルギーであり,事前エネルギー
(backward energy) と呼ばれる.取りうるシームの数は画素数に対して指数関数的な量と
なり,その中から最適シームを選ばなくてはならない.ここでシームの接続方向が 3 通り
に限られることを利用すると,最適シームは動的計画法を用いて線形時間で求めることが
できる.
動的計画法を用いた最適シームの計算は二つのステップからなる.まずエネルギーの最
小累積マップ M を作成し,次にそのマップの最終行(列)から開始行(列)に向かって
マップの最小値を逆にたどる処理を行う.以下に最適な垂直シームを計算する場合の具体
的な手順を示す.まず 2 行目から最終行に向かって順に,以下の式を用いて最小累積マッ
プ M を作成する.
M (i, j) = E(i, j) + min(M (i − 1, j − 1), M (i − 1, j), M (i − 1, j + 1))
(2.11)
このように計算した M において,最終行の中で最小値を持つ座標は,エネルギーの総和
が最小となるシームの終点となる.そのため次のステップで,この最小値を持つ座標から
16
(a)
(b)
図 2.4 画像のエネルギー (a) とその最小累積マップ (b) の例.
1 行目に向かって,3 通りの接続方向の中から最小値を持つ座標をたどることにより,最
適な垂直シームを求めることができる.また,水平シームについても同様の方法で計算を
行うことができる.
先に述べたように,画像中の重要なコンテンツを保持したまま画像サイズの縮小を行う
場合,画素ごとの重要度を定めて削除するシームの選択を行う.コンテンツの重要度を決
めるためのエネルギー関数としては,様々なものを用いることができる.例えば勾配強
度の L1 または L2 ノルム,視覚顕著性マップ [110],Harris のコーナーおよびエッジ検
出 [111],HoG (Histogram of Gradients) [112] などである.あらゆる画像に対して効果
的に働くエネルギー関数は存在しないが,どのエネルギーを用いても視覚的に重要なコン
テンツをある程度保持することができる.また,以下のエネルギー関数は計算コストが少
なく,比較的好ましい結果を与えるため,シームカービングを用いたリサイズ処理ではよ
く用いられている [92].
∂ ∂ E = I + I ∂i
∂j
(2.12)
図 2.4 に,式 (2.12) を用いて計算されるエネルギーとその最小累積マップの例を示す.
2.2.2 事後エネルギーを用いたシームカービング
前項で述べたように,シームカービングを用いたリサイズは,シーム削除前の画素の重
要度をエネルギーとして定め,エネルギーの総和が最小となる最適シームを取り除くこと
で,画像サイズの縮小を行う.このようにエネルギーを定めることで,多くの場合に好ま
しいリサイズ結果が得られる.しかしこの方法は,シームが取り除かれる前に定めた事前
エネルギーのみを考慮しており,シームが取り除かれた後に挿入されるエネルギーを無
視している.この挿入されるエネルギーは,シーム削除前は隣接していなかった画素が,
シームの削除によって隣接し,新たなエッジを形成する場合に生じる.原画像には存在し
ない新たなエッジが形成されるとアーチファクトとなり視覚的に好ましくないリサイズ画
17
I(i-1, j-1)
I(i, j-1)
I(i-1, j) I(i-1, j+1)
I(i, j)
I(i-1, j-1)
I(i, j+1)
I(i-1, j) I(i-1, j+1)
I(i, j-1)
I(i, j+1)
I(i, j-1)
I(i-1, j) I(i-1, j+1)
I(i, j)
I(i, j+1)
I(i-1, j-1) I(i-1, j+1)
I(i, j-1)
(a)
I(i, j+1)
I(i-1, j-1)
I(i, j-1)
I(i, j)
I(i, j+1)
I(i-1, j-1)
I(i-1, j)
I(i, j-1)
I(i, j+1)
(b)
図 2.5
I(i-1, j) I(i-1, j+1)
(c)
シーム削除後に生じる3通りのエッジパターン.
像となることが多いため,新たなエッジの形成を抑制する必要がある.以上の観察から,
Rubinstein ら [93] は,シーム削除後の状態を考慮した事後エネルギー (forward energy)
を導入した.
シーム削除後に生じるエッジは,シームの接続方向によって異なり,図 2.5 に示す3通
りの場合がある.それぞれの接続方向について,新たに生じるエッジのエネルギーは以下
の式で表される.
(a)FL (i, j) = |I(i, j + 1) − I(i, j − 1)| + |I(i − 1, j) − I(i, j − 1)|
(b)FU (i, j) = |I(i, j + 1) − I(i, j − 1)|
(c)FR (i, j) = |I(i, j + 1) − I(i, j − 1)| + |I(i − 1, j) − I(i, j + 1)|
このエネルギーの総和が最小となるシームを選択し削除することで,新たなエッジが形
成されることを抑制する.ここで,シームが si−1 から si へ接続される場合の事後エネル
ギーを

 FL (i, x(i)) if
FU (i, x(i)) if
F (si−1 , si ) =

FR (i, x(i)) if
x(i) − x(i − 1) = 1
x(i) − x(i − 1) = 0
x(i) − x(i − 1) = −1
(2.13)
とおくと,事後エネルギーの総和が最小となる最適な垂直シームは以下の式で表される.
s∗ = argmin
s
h
∑
F (si−1 , si )
(2.14)
i=2
事後エネルギーを用いることで事前エネルギーを用いた場合に比べアーチファクトの少な
い画像が得られるが,一方で画像中の重要な領域を削除してしまうことがある.そこで,
画素の重要度を定めた事前エネルギーを併せて用いることで,アーチファクトの発生を抑
えつつ,重要な領域を保持したリサイズが可能となる.このときの最適な垂直シームは,
18
以下の式で表される.
∗
s = argmin
s
h
∑
E(si ) +
i=1
h
∑
F (si−1 , si )
(2.15)
i=2
動的計画法を用いてこの最適シームを求める場合,累積コストマップ M は以下の式を用
いて計算される.

 M (i − 1, j − 1) + FL (i, j)
M (i − 1, j) + FU (i, j)
M (i, j) = E(i, j) + min

M (i − 1, j + 1) + FR (i, j)
(2.16)
2.2.3 計算コスト
シームカービングを用いたリサイズの工程を簡潔に表すと,以下のようになる.
1. 事前エネルギーを計算する
2. 事後エネルギーを計算しながら累積コストマップを作成し,最適シームを探す
3. 最適シームを削除する
4. 所望のサイズになるまで工程 1∼3 を繰り返す
多くの場合,この中で工程 2 がリサイズに要する処理時間の多くを占める.効率的な計算
を行うために動的計画法を用いるが,その計算コストは画素数に比例し,また所望のサイ
ズになるまで繰り返し行うため,依然としてこの工程の計算コストは高い.
2.2.4 シームカービングを用いた画像拡大
シームカービングは,重要でない領域を選択して複製することにより,重要領域をひず
ませない画像幅の拡大技術としても用いることができる [92].画像幅の拡大は,縮小時と
同様に最も総エネルギーの低い最適シームを計算し,最適シームを構成する画素とその右
隣りの画素との間にそれらの平均値を持つ画素を挿入することで行われる.ここで,単純
に一つのシームを選択し挿入する処理を繰り返して所望のサイズになるまで処理を行う
と,最初に選択されたシーム近辺の複製のみが繰り返されてしまう.そこで,まずシーム
カービングを用いて所望の拡大幅と同じ幅だけ画像幅を縮小し,この時に選択されたシー
ムを記録する.次に原画像において,先ほど選択されたシームに対して,その右隣りに画
素を挿入する.また一定量以上の拡大を行う場合は,画像中の重要な部分に画素が挿入さ
れてひずみが生じることを避けるために,一定量(例えば拡大前の画像サイズの 50 %)
で拡大処理を一度打ち切り,拡大された画像に対して再び拡大処理を行う.
2.2.5 評価指標 BDW 距離
画像リサイズの研究において,リサイズ画像がどの程度原画像をよく表しているかを
客観的な指標を用いて評価することは重要である.しかし,画像リサイズに対する一般
19
A-DTW(S’ ,T’ )
S’
d( S’i , T’x(i) )
T’
T’x(i)
S’i
S
S’
T
(a)
T’
(b)
図 2.6 水平方向パッチへの分割例 (a) と小パッチの例 (b).
的な客観的評価方法はまだ確立されていない.Rubinstein ら [95] によって導入された
Bi-Directional Warping(BDW) 距離は,客観評価への第一歩だといえる.本項では,本
論文内で評価に用いる BDW 距離および最大 BDW 距離の測定方法およびその意味につ
いて述べる.
BDW は二つの信号間の距離を測定するアルゴリズムである.原画像とリサイズ画像の
BDW 距離が近いということは,リサイズ画像が原画像の要素を多く含んでおり,ひずみ
の少ないリサイズ結果であることを表す.以下に,BDW 距離の測定方法を述べる.ま
ず,距離を測定する画像 S と T を n 個の水平方向パッチに分ける(図 2.6(a) 参照).次
に,垂直座標が同じ水平方向パッチ Si , Ti に対して,Si → Ti および Ti → Si への水平方
向の類似度 Asymmetric Dynamic Time Warping(A-DTW) 距離を求める.最後に,こ
れらを正規化して加えることにより BDW 距離を得る.すなわち,BDW 距離は以下の式
で表される.
1∑
1∑
BDW (S, T ) =
A-DT W (Si , Ti ) +
A-DT W (Ti , Si )
n i=1
n i=1
n
n
(2.17)
ここで A-DT W (S ′ , T ′ ) は水平方向パッチ S ′ から T ′ への A-DTW 距離であり,水平方
向パッチ内の小パッチ間の距離(図 2.6(b) 参照)の総和の最小値として以下の式で表さ
れる.
s
∑
1
′
A-DT W (S , T ) = min
d(Si′ , Tx(i)
) s.t. ∀i, 1 ≤ x(i − 1) ≤ x(i) ≤ t (2.18)
s
i=1
′
′
s, t はそれぞれ水平方向パッチ S ′ , T ′ の左端から右端に向かって 1 ピクセルずつずらして
′
′
小パッチを取ったときの小パッチの総数,d(Si′ , Tx(i)
) は小パッチ Si′ と Tx(i)
の距離を表
′
′
す.距離 d(Si′ , Tx(i)
) の計算には,Si′ と Tx(i)
の間の差分二乗和を用いる.以上のように,
BDW 距離は,画像間の小パッチの平均距離を表している.
最大 BDW 距離は,BDW 距離測定時の,S から T への小パッチ間の最大距離と T から
S への小パッチ間の最大距離の和である.最大 BDW 距離は,画像間で最も離れた小パッ
チの距離を表しているため,リサイズによって生じたひずみの最大値とみなせる.シーム
カービングを用いたリサイズにおいては,多くの要素は整列した状態である一方で,若干
のひずんだ要素によりアーチファクトが目立つ.最大 BDW 距離を用いることで,最も目
立つひずみの程度を評価することができる.
20
本論文のシミュレーションにおける評価では,様々な大きさのひずみを評価の対象にす
るために,1 辺のサイズが 4, 8, 16, 32 の正方形小パッチを用いて BDW 距離を測定し,各
パッチサイズで正規化した平均値を評価に用いる.
2.2.6 試験用画像
リサイズ手法の有効性を示すには,様々なシーンを含む多くの画像で評価を行う必要が
ある.本論文では,図 2.7 に示す 24 枚のグレースケール画像をリサイズ手法の評価に用
いる.リサイズの評価試験では,画像の横幅を半分の幅に縮小する処理を行うため,用い
る画像は図 2.1 とは異なり,縦幅よりも横幅が大きい画像を用いる.
21
(1)∗
(2)∗
(3)
(4)
(5)∗
(6)
(7)
(8)
(9)
(10)
(11)
(12)
(13)
(14)
(15)∗
(16)
(17)
(18)∗
(19)
(20)
(21)
(22)∗
(23)
(24)∗
図 2.7
シミュレーションに用いた画像.アスタリスク付きの画像サイズは 576 × 768,
付いていない画像は 512 × 768 である.
22
第3章
Edge-Directed Smoothness Filter を
用いた観測モデルに基づく画像拡大法
3.1 本章の目的
本章では,アーチファクトが少なく,エッジ方向の滑らかさを持つような拡大画像を高
速に得るための新たな画像拡大手法を提案する.提案法は,超解像処理においてしばしば
用いられる観測モデルを用いた高解像度化手法(2.1 節参照)に着目し,これを用いた画
像拡大を行う.
3.2 提案法概要
提案法は,高解像度画像 h と低解像度画像 f との間の関係を表したカメラの観測モデ
ル [14] に基づいて拡大画像を求める.ここで,2.1.1 項に示した観測モデルを再掲する.
fk = DBk Mk h + nk
(3.1)
なお h と fk はそれぞれサイズ L1 N1 × L2 N2 の高解像度画像と p 枚のサイズ N1 × N2
の低解像度画像の画素を辞書式配列に並べたベクトル,Mk は変形行列,Bk はぶれ行列,
D はダウンサンプリング行列,nk はノイズ成分を表すベクトルである.この観測モデル
について,f を原画像,h をその拡大画像とみなすと,各変数は以下のように解釈できる.
観測モデルにおけるダウンサンプリングファクター L1 , L2 は,それぞれ縦,横の拡大率
に相当する.提案法は,L1 = L2 = L ≥ 2, L ∈ N の場合を扱う.単一の画像から拡大画
像を得る提案法では,低解像度画像は 1 枚であるため,p = 1 となる.また,原画像と拡
大画像間におけるカメラの移動を考える必要がないため,変形行列は単位行列となる.ぶ
れとダウンサンプリングによる処理は,拡大画像の複数の画素を含むブロックを原画像の
一つの画素に集約する処理とみなすことができる.提案法では,原画像の画素値は拡大画
像の正方形領域の画素の平均値として得られたものであると仮定し,原画像と拡大画像に
おける画素値の関係を以下の式で表す.
L−1 L−1
1 ∑∑
h(Lx + k, Ly + l).
f (x, y) = 2
L
k=0 l=0
23
(3.2)
式 (3.2) の関係を満たす拡大画像を原画像に射影する行列を W とすると,原画像と拡大
画像の間を表す観測モデルは,以下の式で表される.
f = Wh + n
(3.3)
式 (3.3) を満たす拡大画像 ĥ は
ĥ = argmin∥f − W h∥2
(3.4)
h
と表される.式 (3.4) は,W がフルランクではないため不良設定問題となる.そこで,
2.1.2 項で述べた超解像処理と同様に,以下のように正則化を行う.
[
]
ĥ = argmin ∥f − W h∥2 + λ∥Ch∥2
(3.5)
h
ここで,λ は正則化パラメータであり,C は拡大画像に対する制約から導かれる行列であ
る.2.1.2 項で述べた超解像処理では C にハイパスフィルタを用いている.これは,一般
的な画像は滑らかで高周波成分はわずかしかない,という画像に対する事前知識を仮定と
して用いるためである.この仮定を用いることで得られる拡大画像は滑らかになるため,
エッジ領域に発生しやすいジグザグ状のアーチファクトは抑えることができると考えられ
る.しかしそれと同時に,エッジの急峻さが失われてしまう.そこで本研究では,C と
してエッジ方向の滑らかさを測るフィルタを用いることで,エッジの急峻さは保ったまま
エッジに沿う方向の滑らかさを持つ拡大画像を得る手法を提案する.次節では,エッジ方
向の滑らかさを測るために本研究で新たに導出したフィルタについて述べる.
3.3 Edge-Directed Smoothness Filter
画像の局所的な滑らかさを測る最も単純な方法の一つは,局所領域の高周波成分のエネ
ルギーを調べることである.高周波成分のエネルギーが小さいということは,その領域が
滑らかであることを表す.このエネルギーを測定するための方法はいくつも提案されてい
る.代表的な手法として,ラプラシアンオペレータの利用がある.ラプラシアンは n 次元
ユークリッド空間における二階微分である.画像処理における離散化されたラプラシアン
フィルタは,ある画素とその周辺画素の平均との差分を計算する.ラプラシアンフィルタ
を画像に適用した例を図 3.1(b) に示す.この図に示されるように,ラプラシアンフィル
タを適用した画像は,エッジ領域において高いエネルギーを持つ.
ではエッジの方向の滑らかさを測るにはどうしたらよいのだろうか.最も単純な方法の
一つは,エッジ方向の二階微分を計算することである.これは,前述のラプラシアンフィ
ルタのように,ある画素とその周辺のエッジ方向に存在する画素の平均との差分により計
算できる.しかしこの計算方法では,エッジの強弱によらず特定の方向の滑らかさしか測
ることができない.エッジの強度が弱い領域では,その滑らかさはラプラシアンフィルタ
のようにある画素とその周辺画素の平均との差分で計算されるべきである.またエッジ
24
(a)
(b)
(c)
図 3.1 フ ィ ル タ の 適 用 結 果 .(a) 原 画 像 .(b) ラ プ ラ シ ア ン フ ィ ル タ 適 用 結 果 .
(c)EDS フィルタ適用結果.フィルタサイズは 3 × 3,用いたパラメータは σ = 0.5,
β = 0.01.
の強度が強い領域では,エッジ方向に存在する画素のみを用いて計算を行うことが好ま
しい.そこで,エッジ方向の滑らかさを測るための新たなフィルタとして,エッジの強
度や方向に対して適応的なフィルタ係数を持つ Edge-Directed Smoothness Filter(以降
EDS フィルタと表記)を導入する.
以下に,EDS フィルタの導出過程を示す.設計したいフィルタは,ある画素と,その周
辺画素の重み付き平均との差分を計算する二次元フィルタであり,その重みに求める要件
は以下のようになる.
• エッジでない滑らかな領域では,ラプラシアンフィルタのような等方性の分布を
なす.
• エッジの強度が強い領域では,エッジ方向の重みは,それと垂直な方向の重みより
も大きい.
この要件を満たすために,重みをエッジ方向とそれに垂直な方向のガウシアン関数の乗算
で表し,ガウシアン関数の広がりパラメータをエッジの強度に応じて変化させる.ここ
で,x − y 座標系を θ 回転させた s − t 座標系を考える.s はエッジ方向,t は s と垂直の
方向,θ は座標軸 x と s のなす角(以降エッジ角度と表記)とする.まずエッジ方向 s に
対する重みの分布を以下のように与える.
G(s, σ) = √
1
s2
exp(− 2 )
2σ
2πσ
(3.6)
ここで,σ は s 方向の広がりパラメータである.次に,t 方向の重み分布を滑らかな領域
では s 方向の重み分布と同じに,エッジ領域ではエッジの強度に応じて s 方向の重み分
布よりもその広がりを小さくする関数で与える.このような t 方向の重み分布は,その広
がりパラメータ σ ′ をエッジ強度に応じて大きくすることで得られる.ここで,E(g) を
E(0) = 1 を満たす単調増加関数,g をエッジ強度とし,σ ′ = σ/E(g) とすると,t 方向の
25
vy
vy
vx
vx
(a)
図 3.2
(b)
滑らかな領域とエッジ領域での G(s, t, σ, g) の振る舞い.用いたパラメータ
は,σ = 0.5 , θ = 45◦ ,(a)E(g(u) ) = 1,(b)E(g(u) ) = 2.
重みの分布は以下の式で与えられる.
G(t, σ ′ ) = √
1
t2
exp(− ′2 )
2σ
2πσ ′
(3.7)
式 (3.6) と式 (3.7) を組み合わせることにより,以下で表される s − t 座標系における重み
分布を得る.
G(s, t, σ, g) =
1
s2 + (tE(g))2
exp(−
).
2πσ 2 E(g)
2σ 2
(3.8)
図 3.2 に滑らかな領域とエッジ領域での G(s, t, σ, g) の分布の違いを示す.図に示される
ように,G(s, t, σ, g) は滑らかな領域では等方性の広がりを,エッジ領域ではエッジ方向
に広く分布する異方性の広がりを持つ.
ここで画素 (x, y) における EDS フィルタの係数 c(k,l) は,(k, l) を画素 (x, y) を原点と
する座標系としたときに,
{
c(k,l) =
−1
α(k,l)
if k = l = 0
otherwise
(3.9)
と表される.ただし,
s2 + (tE(g(x,y) ))2
ν
=
exp(−
),
2πσ 2
2σ 2
α(k,l)
νは
∑
[
s
t
]
[
=
cos θ(x,y)
− sin θ(x,y)
sin θ(x,y)
cos θ(x,y)
][
k
l
]
,
c = 0 を満たす正規化パラメータ,g(x,y) は画素 (x, y) におけるエッジ強度,θ(x,y)
は画素 (x, y) におけるエッジ方向である.また本提案法では,E(0) = 1 を満たす単調増
加関数として
E(g(x,y) ) = βg(x,y) + 1, β > 0
(3.10)
を用いる.ここで β は,エッジ強度の重み調整係数を表している.EDS フィルタを適用
した例を図 3.1(c) に示す.自然画像は平らな領域とエッジ方向に滑らかである画素が多
26
(a)
(b)
(c)
(d)
図 3.3 EDS フィルタの適用結果の拡大図.(a) 原画像領域1,(b)EDS フィルタを領
域1に適用した結果,(c) 原画像領域2,(d)EDS フィルタを領域2に適用した結果.
いという特徴があるため,EDS フィルタを適用した時に高いエネルギーを示す領域は少
ない.図 3.1(b) のラプラシアンフィルタを適用した例と比べると,滑らかに連なるエッ
ジ領域において,より低いエネルギーを示していることが分かる.図 3.3 は EDS フィル
タの適用結果の拡大図である.エッジの滑らかさが少なく,エッジが複雑に入りくんでい
る領域にフィルタを適用した場合,図 3.3(b) のように高いエネルギーを示している.一
方,エッジ方向に対して滑らかな領域にフィルタを適用した場合,図 3.3(d) のように低
いエネルギーを示している.
3.4 提案法の実装方法
3.2 節で述べたように,提案法は式 (3.5) における拡大画像に対する制約 C に EDS フィ
ルタを用いて,画像拡大を行う.前節で示したように,EDS フィルタの係数は,画像中の
エッジの強度および方向によって変化する.フィルタ係数を未知の拡大画像 h のエッジ
情報に基づいて計算する場合,式 (3.5) において C と h が未知のパラメータとなる.こ
の場合,h を 2.1.2 項で示したような連立一次方程式の解として求めることができなくな
り,高い計算コストを要する.さらに,低解像度画像の持つ画素の構造を考慮せずに計算
を行うと,低解像度画像が持つ本来のエッジの方向などが拡大画像に反映されず,好まし
くない高解像度画像となる恐れがある.そこで,拡大画像 h のエッジ情報を原画像 f か
ら推定し,これを元に EDS フィルタの係数を決定することで,これらの問題を解決する.
EDS フィルタの係数決定手順は以下のようになる.まず,原画像 f に対してソベルフィ
ルタを適用することにより水平,垂直方向のエッジ成分 fx′ , fy′ を求める.次に,それらを
バイリニア補間法を用いて拡大画像サイズにした h′x , h′y を拡大画像 h のエッジ情報とし
て用いる.得られた h′x , h′y を用いて,エッジの方向 θ と強度 g を以下の式で求める.
−1
θ = tan
( ′)
√
hx
− ′ , g = h′x 2 + h′y 2
hy
これらを式 (3.9) に代入することで,EDS フィルタの係数を得る.
27
(3.11)
表 3.1
Name
PSNR および平均計算時間.
Bicubic
NEDI [46]
SAI [47]
Proposal
(1)Airplane
31.26
29.64
31.13
32.72
(2)Baboon
26.15
25.66
26.17
27.00
(3)Barbara
25.40
24.67
25.34
25.66
(4)Boat
29.94
29.48
30.30
31.00
(5)Building
25.98
25.36
25.91
26.75
(6)Cameraman
35.73
34.23
35.96
38.17
(7)Cartoon
24.04
23.19
23.52
25.06
(8)Chart
18.28
18.05
17.38
19.34
(9)Elaine
33.10
32.76
33.20
33.52
(10)Finger
28.70
27.04
28.91
30.45
(11)Goldhill
31.45
30.83
31.51
32.22
(12)Grass1
27.76
26.78
27.82
28.83
(13)Grass2
22.34
22.08
22.50
22.87
(14)Houses
23.69
23.24
23.96
24.66
(15)Lenna
34.07
33.63
34.65
35.46
(16)Man
31.05
30.52
31.39
32.18
(17)Pepper
31.75
30.55
32.72
32.94
(18)Room
28.40
29.04
29.78
30.92
(19)Station
29.58
28.20
30.02
31.45
(20)Tank
31.18
30.48
31.12
31.80
(21)Watch
31.41
31.37
31.57
32.71
(22)Wheel
23.63
23.94
24.38
24.24
(23)Wood
20.91
21.42
22.03
22.70
(24)Zone plate
14.85
14.17
14.76
15.57
Ave. time[sec]
0.0123
21.2
2.50
1.85
3.5 シミュレーションおよび考察
提案法の有効性を示すために,サイズ 512 × 512 の試験用画像を 256 × 256 に縮小し,
従来法,提案法を用いて 2 倍の拡大画像を得た.従来法として用いたのは,一般的な画像
拡大法であるバイキュービック法 [43],提案法と同様に画像の構造を用いて画像拡大を行
う NEDI 法 [46] および SAI 法 [47] である.用いた画像は,図 2.1 に示した 24 枚の画像
28
である.シミュレーションには CPU Intel Core i7 3.2GHz, RAM 6GB の PC を用い,
提案法の実装は Matlab で行った.なお従来法の実行には作者が公開しているファイルを
用いており,NEDI 法は matlab コード,SAI 法は実行形式ファイルである.従来法の実
行にはそれぞれデフォルトで設定されているパラメータを用いた.また,EDS フィルタ
のサイズは 3 × 3,使用パラメータは L = 2, σ = 0.5, β = 0.001, λ = 0.1 である.これら
は経験的に最適な結果を得られる値として決定した.提案法の式 (3.5) は共役勾配法を用
いて解いた.
表 3.1 に PSNR および平均処理時間を示す.提案法は従来法と比較して高い PSNR を
示しており,高精度な画像拡大が行えているといえる.また,NEDI 法,SAI 法と比較し
て高速な処理が可能である.
次に,得られた拡大画像から各手法と提案法の比較を行う.紙面の大きさが限られてい
るため,ここでは得られた画像全体を見るために拡大画像を縮小して図 3.4,3.5,3.6,3.7
に,拡大画像の一部を切り抜いた等倍表示の結果を図 3.8,3.9,3.10,3.11 に示す.画像
全体を見るために縮小した結果ではその差異が分かりにくいが,注目すべきはアーチファ
クトの発生である.画像 (3)(図 3.4),画像 (7)(図 3.5),画像 (21)(図 3.6),画像 (24)
(図 3.7)を見ると,NEDI 法や SAI 法では,いくつかの画像において実際の画素の構造と
は異なる補間が行われ,アーチファクトが発生している.一方で提案法はそのようなアー
チファクトが発生せず,画像によらず安定した画像拡大が行えていることが分かる.より
細かな拡大結果の差異については,等倍表示の結果を用いて述べる.画像 (8) の拡大結果
(図 3.8)を見ると,NEDI 法と SAI 法では好ましくないアーチファクトが発生している.
また,バイキュービック法では,エッジにぼけが発生している.一方で提案法では,ぼけ
とアーチファクトの発生を抑え,鋭いエッジを持つ画像を生成できている.画像 (1) の拡
大結果(図 3.9)についても,同様の傾向が見られる.画像 (18) の拡大結果(図 3.10)を
見ると,バイキュービック法ではジグザグ状のアーチファクトが発生している.SAI 法で
は,エッジ方向に滑らかな質の良い画像を生成しているが,画像の左下を見ると,本来繋
がっていない縞模様の線が繋がり原画像にはない構造を生み出していることが分かる.画
像 (20) の拡大結果(図 3.11)を見ると,従来手法の細部は滑らかになり消失しているが,
提案法では比較的細部の消失を抑えられている.
最後に,提案法におけるパラメータの影響について述べる.今回のシミュレーションで
は,パラメータは固定した値を用いた.パラメータを変化させた場合の結果の違いについ
ては細かな検討は行わないが,パラメータが拡大画像に及ぼす影響について簡単に述べ
る.σ, β, λ は,EDS フィルタによるエッジ方向の滑らかさを得る効果を調整する役割を
果たす.フィルタの効果が弱い場合はエッジがぼけ,強い場合は滑らかさが過度に強調さ
れて,エッジ方向に線状のアーチファクトが発生していた.それぞれのパラメータについ
て以下に個別に述べる.σ はフィルタ係数の広がりを調整するパラメータであり,大きな
値を用いるとエッジの強度によるフィルタ係数の異方性が弱まる.結果としてフィルタ係
数の分布が単純な二次元の等方性ガウシアン関数になるため,エッジがぼけやすくなっ
29
た.β はエッジ強度をどの程度フィルタ係数の異方性に反映させるかを調整するパラメー
タである.大きな値を用いるとエッジ方向の滑らかさを過度に得ようとするため,アーチ
ファクトが発生する場合があった.λ は原画像と拡大画像間の忠実性とエッジ方向の滑ら
かさのトレードオフを調整するパラメータである.そのため β と同様に大きな値を用い
た場合に,アーチファクトが発生することがあった.また,最適な EDS フィルタのサイ
ズについては,L = 2 の場合には 3 × 3 であった.フィルタがこのサイズより大きい場合
は,エッジ方向の滑らかさを考慮する範囲がエッジ以外の領域にもおよび,線状のアーチ
ファクトが発生する場合が見られた.今回のシミュレーションでは L = 3 以上の場合に
ついては検討を行わなかったが,拡大率によって最適なパラメータは変化すると考えら
れる.
3.6 まとめ
本章では,超解像処理でしばしば用いられる観測モデルに基づいて,拡大画像を推定す
る新たな手法を提案した.また,画像拡大においてエッジが滑らかに構成されるようにす
るために,Edge-Directed Smoothness Filter と呼ばれるエッジ方向の滑らかさを測るた
めのフィルタを導入し,これを拡大画像の制約条件として用いた.提案手法は,従来法に
比べアーチファクトの発生が少なく,エッジ方向に滑らかな画像をより高速に得た.
30
原画像
バイキュービック
NEDI
SAI
提案法
図 3.4
各手法を用いて画像拡大を行った結果の比較.使用画像は画像 (3).
31
原画像
バイキュービック
NEDI
SAI
提案法
図 3.5
各手法を用いて画像拡大を行った結果の比較.使用画像は画像 (7).
32
原画像
バイキュービック
NEDI
SAI
提案法
図 3.6
各手法を用いて画像拡大を行った結果の比較.使用画像は画像 (21).
33
原画像
バイキュービック
NEDI
SAI
提案法
図 3.7
各手法を用いて画像拡大を行った結果の比較.使用画像は画像 (24).
34
原画像
図 3.8
バイキュービック
NEDI
SAI
提案法
各手法を用いて画像拡大を行った結果の比較(画像の一部を表示)
.使用画像は画像 (8).
35
原画像
図 3.9
バイキュービック
NEDI
SAI
提案法
各手法を用いて画像拡大を行った結果の比較(画像の一部を表示)
.使用画像は画像 (1).
36
原画像
図 3.10
バイキュービック
NEDI
SAI
提案法
各手法を用いて画像拡大を行った結果の比較(画像の一部を表示).使用画像
は画像 (18).
37
原画像
図 3.11
バイキュービック
NEDI
SAI
提案法
各手法を用いて画像拡大を行った結果の比較(画像の一部を表示).使用画像
は画像 (20).
38
第4章
ブロックベースシームカービング
4.1 本章の目的
多くの画像をリサイズする場合やリアルタイムのリサイズを行うためには,リサイズ
に要する計算コストを削減し,高速に処理を行う必要がある.2.2.3 項で述べたように,
シームカービングにおいて多くの計算コストを占める工程が,最適シームを探す工程であ
る.この探索においては,効率的な計算を行うために動的計画法を用いている [92].この
動的計画法に要する計算コストは,画素数に比例して増大する.また削除する幅だけ探索
処理を繰り返す必要がある.そのため,動的計画法で処理すべき画素の数を減らすととも
に,探索処理の繰り返し回数を減らすことで,計算コストを削減することができると考え
られる.
そこで本章では,シームカービングをブロックベースに拡張したブロックベースシーム
カービングを提案し,これを用いることで計算コストを削減したリサイズが行えることを
示す.従来のシームカービング [92,93] は,シームと呼ばれる連続する画素集合を計算し,
シームを削除することで画像幅の縮小を行っていた.提案法は,画素をブロック単位で扱
うことで,シームを連続するブロックの集合で構成し,シーム内のブロックをダウンサ
ンプリングすることにより画像幅を縮小する.提案法はブロック単位の処理であるため,
シームを構成する要素数が減り,シームの計算に要するコストが従来法に対して削減でき
る.また,ダウンサンプリングによる縮小は画素に極端なひずみを生じさせないため,縮
小時に問題となる局所的なひずみが抑制できる.本章ではさらに,ブロックベースシーム
カービングを用いた画像拡大法についても述べる.従来のシームカービングを用いた画像
拡大法は,画像縮小時のシーム選択方法を用いているため,拡大に適したシームを選択す
ることができない.一方で提案法は,画像拡大のためのシーム選択方法を定義することに
より,従来法に対してひずみの少ない拡大画像を得ることができる.
4.2 ブロックベースシームカービング
本節では,ブロックベースシームカービングを用いた画像縮小について述べる.ここ
で,従来法と提案法の違いについて簡単に述べる.従来法で定義されるシームは,画像の
39
(a) 従来法
(b) 提案法
図 4.1 従来法のシーム (a) と提案法のブロックシーム (b) の比較.同じような経路を
通るが,太さは異なる.
W
・・・
(1,1) (1,2)
(1,w)
(2,1) (2,2)
・
・
・・・
(h,1)
図 4.2
図 4.3
Shrink
Sb(p,q)
{
m×β
{
{
(h,w)
ブロック座標.
m×α
n
・・・
・
・・・
H
B(p,q) B(p,q+1)
α = 2, β = 1 の場合のシームブロックの構成とダウンサンプリングされたブロック.
上から下,または左から右に向かって走る連続する画素である.1 回の処理により一つの
シームが削除され,画像幅が 1 画素分縮小される.一方提案法では,シームの要素は複数
の画素で構成されるブロックである.画像幅の縮小はブロック内の画素をダウンサンプ
リングすることにより行われるため,1 回の処理により複数画素分の画像幅縮小が行われ
る.図 4.1 に,従来法と提案法におけるシームの例を示す.本節では前半にブロックベー
スシームカービングの定義を述べ,後半ではダウンサンプリングやブロックベースシーム
カービングで用いるエネルギーについて述べる.以降は簡潔な記述のために,画像の上か
ら下に向かう垂直シームを用いて画像幅を縮める場合についてのみ述べる.
40
4.2.1 シームの定義
縦 H(= hn) 横 W (= wm) サイズの画像 I に対するブロックベースシームカービング
について述べる.ブロックベースシームカービングにおける処理の基本単位は n × m 画
素で構成されるブロック B(p, q) である.ここで p, q は,図 4.2 に示すブロックの座標
p = 1, 2, ..., h, q = 1, 2, ..., w を表す.このブロックは I を縦横それぞれ h, w 分割するこ
とにより得られる.画像幅の縮小は,図 4.3 に示すように 1 × α 個の連続するブロックで
構成される n × αm 画素を n × βm 画素にダウンサンプリングすることにより行われる.
ここで,この 1 × α 個の連続するブロック B(p, q), ..., B(p, q + α − 1) で構成される集
合をシームブロック Sb(p, q) と定義する.α ≥ 2 の場合,B(p, q) は複数のシームブロッ
ク,例えば Sb(p, q − 1) と Sb(p, q) によって共有される.
垂直シームは垂直方向に連続する h 個のシームブロックの座標集合として,以下のよう
に定義する.
sx = {sxi }hi=1 = {(i, x(i))}hi=1 s.t. ∀i, |x(i) − x(i − 1)| ≤ γ.
(4.1)
ここで {i, x(i)} は,i 行 x(i) 列の座標を表し,γ はシームが接続しうるシームブロックの
水平方向のブロック距離であり,本論文では1を用いる.最適なシームは,以下の式で表
される,エネルギー総和を最小にするシームブロックの組み合わせである.
s∗ = argmin
s
h
∑
E(sxi ) +
i=1
h
∑
F (sxi−1 , sxi ).
(4.2)
i=2
ここで E(sxi ) はシームブロックの重要度などで定める事前エネルギー,F (sxi−1 , sxi ) は
Sb(sxi−1 ) と Sb(sxi ) がシームとして縮小された時に生じる事後エネルギーである.各エ
ネルギーについての詳細は次節以降に述べる.以上のように定義されるブロックベース
シームカービングは,(n, m) = (1, 1), (α, β) = (1, 0) の場合,事前エネルギーと事後エネ
ルギーを定義した従来のシームカービングと一致する.式 (4.2) の解である最適なシーム
の探索は,動的計画法を用いて効率的に行う.最適なシームとして選択されたシームブ
ロックは,ダウンサンプリングによりその幅が縮小される.最適シームの特定とダウンサ
ンプリング処理を所望のサイズになるまで行うことにより,画像幅を縮小する.
4.2.2 ダウンサンプリング
提案法では,ブロック内画素のサイズを n × αm から n × βm にダウンサンプリングす
ることで,画像幅の縮小を行う.用いるダウンサンプリングの方法は,β の値によって変
える.β ̸= 1 の場合は一般的なサンプリング周波数変換処理を適用し,補間方法にはバイ
リニア補間法 [43] を用いる.β = 1 の場合は,処理速度を優先し,α 画素の平均値を 1 画
素に集約する.
41
(a) 事後エネルギーなし
(b) 事後エネルギーあり
図 4.4 事後エネルギーを用いない場合 (a) と用いた場合 (b) のシームの通り方と縮小結果.
Sb(p-1,q+l)
{
Shrink
Sb(p,q)
e
図 4.5 縮小によって画素境界の関係が変更される画素の水平位置集合 e.
4.2.3 事前エネルギー
提案法における事前エネルギーは,ダウンサンプリングされる前のシームブロックが持
つ視覚的な重要度によって決定されるエネルギーである.視覚的に重要な部位のエネル
ギーを高くすることで,重要部位がシームとして選択,縮小され形状がひずむ,というこ
とを起こりにくくする.提案法では,以下の式で表される,各画素の勾配をシームブロッ
ク内で平均した値を事前エネルギーとして用いる.
)
(
∂
1 ∑ ∂
I(i, j) + I(i, j) .
E(p, q) =
NSb
∂i
∂j
(4.3)
(i,j)
ここで,I(i, j) ∈ Sb(p, q),NSb はシームブロック内の総画素数を表す.
4.2.4 事後エネルギー
提案法における事後エネルギーは,ダウンサンプリングされた後のシームブロックの境
界に新たに発生するエッジによって定義されるエネルギーである.シームが斜めに接続
される場合,図 4.4(a) に見られるように,ダウンサンプリング前後で画素の接続位置関
係が変化することにより,新たなエッジが生成される.このようなひずみを防ぐために,
Sb(p − 1, q + l) と Sb(p, q) がダウンサンプリングされることにより発生する,ブロック
境界のエッジが持つエネルギーを事後エネルギーとして以下のように定める.
{
F ((p − 1, q + l), (p, q)) =
0
α
β+1
if l = 0
c(p,
e)
otherwise
e
∑
42
(4.4)
ここで c(p, e) = |Is ((p − 1)n, e) − Is ((p − 1)n + 1, e)|,Is はシームダウンサンプリング
後の画像,e は図 4.5 に示されるように Sb(p − 1, q + l) と Sb(p, q) がシームとして縮小
される場合に p − 1 段目と p 段目の境界に位置する画素の中で接続関係が変更される水平
画素位置の集合を表している.上記のように定めたエネルギーは,ダウンサンプリング後
に新たに発生する画素境界間の輝度差に比例して大きくなるため,視覚的に大きなひずみ
を生むシームの発生を抑えることができる.また,シームが縦に接続される場合 (l = 0)
は接続関係が変わらないため,エネルギーを 0 としている.
4.3 画像拡大への応用
シームカービングは,重要でない領域を選択して複製することにより,重要領域をひず
ませない画像幅の拡大技術としても用いることができる.これについては 2.2.4 項で述べ
たが,従来法を用いた画像拡大の問題点を明確にするために,ここで再度その手順を述べ
る.そして従来法の問題点を述べ,次に提案法を用いた画像拡大方法について述べる.
従来のシームカービングを用いた画像の拡大は,シームを複製し挿入することにより行
われる.シームの選択と挿入を交互に行うと,最初に選択されたシーム近辺の複製のみが
繰り返されるため,まずシームカービングを用いて所望の拡大幅と同じ幅だけ画像幅を縮
小し,この時に選択されたシームを記録する.次に原画像に対して,選択されたシームを
複製し挿入する.また一定量以上の拡大を行う場合は,画像上重要な部分がシームとして
複製されてオブジェクトの構造を壊すことを避けるために,一定量(例えば拡大前の画像
サイズの 50 %)で拡大処理を一度打ち切り,拡大された画像に対して再び拡大処理を行
う.この手法は拡大処理を打ち切る量の適切な基準がなく,また事後エネルギーがシーム
削除後に発生するエネルギーを定めているため,挿入に適したシームを選択しておらず,
適切な画像拡大が行えないという問題を有している.
提案法を用いた画像の拡大は,シームの選択とシームブロックのアップサンプリングを
交互に繰り返すことにより行われる.従来法では,複製したシームを挿入するとその付近
が滑らかになりエネルギーが減少するため,シームの選択と挿入を交互に行うことができ
ない.提案法では,以下の式で表されるエネルギーを最小にするシームを選択すること
で,これを可能にする.
s∗ = argmin
s
h
∑
i=1
x
2R(si ) E(sxi ) +
h
∑
F (sxi−1 , sxi ).
(4.5)
i=2
ここで,R(sxi ) はあるブロックがシームとして選択された回数を RB (p, q) としたとき,
シームブロック内のブロックの RB (p, q) の最大値 R(p, q) = max{RB (p′ , q)}, B(p′ , q) ∈
Sb(p, q) である.選択されたシームブロックは,n × βm 画素から n × αm 画素にアップ
サンプリングされ,画像幅が拡張される.α と β の組み合わせは様々考えられるが,本
論文では (α, β) = (2, 1) の場合についてのみ考える.アップサンプリングは,ブロック
内の各画素とその隣の画素との間に,それらの平均値を持つ画素を補間することで行わ
43
れる.また,アップサンプリングにより新たに生成される α 個のブロックの選択回数は,
R(p, q) + 1 で更新する.式 (4.5) のようにエネルギーを定めることにより,アップサンプ
リングされたブロックを含むシームブロックのエネルギーは,R(p, q) の作用により事前
エネルギーの大きさに応じて増加するため,特定のブロックが連続して選択される可能性
を減らすことができる.また提案法において定義される事後エネルギーは,シームブロッ
クのサイズ変更に伴って発生する画素境界のエネルギーを定めているため,画像拡大にお
いても,アーチファクトの発生を抑えるためのエネルギーとして定義されている.
4.4 シミュレーションおよび考察
提案法の有効性を示すために,Rubinstein らの手法 [93] を用いた従来のシームカービ
ング手法と提案法を用いた画像の縮小・拡大結果の比較を行った.シミュレーションには
CPU Intel Core2 2.66GHz, RAM 2GB の PC を用い,プログラムの実装は Matlab で
行った.
4.4.1 画像の縮小
シミュレーションでは,各手法を用いて画像の横幅を半分に縮小した.用いた画像は,
図 2.7 に示した 24 枚の画像である.提案法は,パラメータによるリサイズ結果の差異を
比較するために,処理の基本単位であるブロックサイズ (n, m) = (4, 4), (8, 8), (16, 16),
ダウンサンプリングパラメータ (α, β) = (2, 1), (4, 3) を用いた.リサイズ精度の客観的な
評価指標には,2.2.5 項で述べた BDW 距離と最大 BDW 距離を用いた.BDW 距離はリ
サイズ画像全体の平均ひずみ,最大 BDW 距離はリサイズ画像内の最大ひずみを表す指標
であり,距離が短いほどひずみが少ないリサイズ結果であることの目安となる.また,提
案法において画像をブロックに分割した時の水平方向の境界と,BDW 距離測定における
水平パッチ境界が一致した状態で測定すると,シームブロックが斜めに接続されたときに
生じるブロック間のひずみが BDW 距離に反映されなくなるため,客観的な指標としての
信頼性が下がる.そこで,水平方向のブロック境界が必ず小パッチ内に含まれるように,
水平方向パッチを垂直方向にずらして測定を行った.
まず,提案法におけるブロックサイズの影響について述べる.表 4.1 に示す BDW 距離
および表 4.2 に示す最大 BDW 距離を見ると,これらの距離と使用したブロックサイズと
の間にはっきりとした傾向は見られなかった.異なるブロックサイズを用いたリサイズ結
果の一部を図 4.6,4.7,4.8 に示す.図 4.6 では,ブロックサイズが小さいほど,重要領
域を含まないようにシームを選択できていることが分かる.しかし重要領域以外を縮小し
すぎると,独立して存在しているべき重要領域同士が過度に近接し,視覚的な違和感を生
み出す場合がある.また図 4.7 では,ブロックサイズが小さいほどひずみの少ないリサイ
ズ画像が得られた.一方で図 4.8 では,ブロックサイズが小さい場合には細かなひずみが
目立っていた.このように,画像によって適切なブロックサイズが異なるため,最適なブ
44
表 4.1
従来法
n,m
BDW 距離 [10−2 ]
提案法 (α = 2, β = 1)
提案法 (α = 4, β = 3)
4
8
16
4
8
16
(1)
0.167
0.166
0.190
0.226
0.168
0.182
0.196
(2)
0.485
0.441
0.423
0.396
0.392
0.330
0.366
(3)
0.762
0.779
0.808
0.841
0.724
0.638
0.541
(4)
0.778
0.658
0.728
0.978
0.694
0.908
0.838
(5)
0.264
0.262
0.309
0.293
0.256
0.275
0.268
(6)
0.415
0.412
0.336
0.324
0.348
0.274
0.264
(7)
0.336
0.290
0.297
0.359
0.287
0.337
0.300
(8)
1.35
0.784
0.833
0.886
0.733
0.739
0.733
(9)
0.275
0.238
0.249
0.299
0.227
0.244
0.250
(10)
1.66
1.51
1.47
1.50
1.36
1.37
1.38
(11)
0.866
0.830
0.775
0.815
0.738
0.735
0.746
(12)
0.352
0.348
0.367
0.415
0.366
0.399
0.382
(13)
0.357
0.380
0.626
0.504
0.582
0.472
0.278
(14)
0.968
0.786
0.781
0.858
0.770
0.837
0.800
(15)
0.367
0.360
0.356
0.402
0.368
0.379
0.394
(16)
0.399
0.366
0.335
0.327
0.308
0.304
0.312
(17)
0.0718
0.0606
0.0591
0.0694
0.0618
0.0587
0.0586
(18)
0.129
0.142
0.129
0.120
0.125
0.1000
0.0953
(19)
0.957
0.805
0.610
0.715
0.531
0.500
0.518
(20)
0.173
0.234
0.240
0.288
0.219
0.221
0.176
(21)
0.458
0.410
0.410
0.508
0.349
0.406
0.451
(22)
0.845
0.710
0.739
0.752
0.660
0.672
0.657
(23)
0.761
0.643
0.673
0.680
0.620
0.637
0.655
(24)
0.960
0.885
0.838
0.862
0.814
0.803
0.790
ロックサイズを定めることはできなかった.
次に,提案法におけるダウンサンプリングパラメータの影響について述べる.BDW 距
離および最大 BDW 距離を見ると,(α, β) = (2, 1) に比べ (α, β) = (4, 3) を用いた場合
の方が距離が比較的短い傾向が見られ,特にブロックサイズが大きな場合にこれが顕著
であった.図 4.9 を見ると,(α, β) = (2, 1) の場合には画像の一部が極端に縮められて
ひずみを生じているが,(α, β) = (4, 3) の場合にはこのひずみは目立ちにくい.これは,
(α, β) = (4, 3) の場合には,(α, β) = (2, 1) の場合に比べて広い範囲をバイリニア法を用
45
表 4.2
従来法
n,m
最大 BDW 距離 [10−1 ]
提案法 (α = 2, β = 1)
提案法 (α = 4, β = 3)
4
8
16
4
8
16
(1)
0.919
0.815
1.05
1.33
0.900
0.937
0.997
(2)
1.44
1.24
1.66
1.50
1.28
1.19
1.32
(3)
2.80
3.80
4.31
3.83
4.31
2.77
2.09
(4)
1.79
1.58
1.75
2.03
1.72
1.89
1.86
(5)
1.39
1.43
1.56
1.13
1.18
0.989
1.21
(6)
1.82
1.64
1.33
1.23
1.45
1.37
0.714
(7)
2.06
1.64
1.45
1.70
1.53
1.60
1.53
(8)
3.13
3.23
3.27
2.79
3.16
2.92
2.74
(9)
1.12
0.841
1.02
0.972
0.954
0.954
1.24
(10)
2.52
2.44
2.46
1.81
2.41
2.07
1.77
(11)
3.15
1.98
2.34
2.20
2.29
1.96
1.96
(12)
1.97
1.45
1.50
2.08
1.59
2.01
1.99
(13)
2.00
2.51
2.83
2.96
2.18
2.40
1.81
(14)
3.99
4.48
4.18
4.19
3.97
4.14
4.00
(15)
3.05
2.79
2.57
2.74
1.98
2.59
2.47
(16)
0.839
0.647
0.648
0.794
0.497
0.673
0.710
(17)
1.15
0.635
0.558
0.630
0.580
0.465
0.423
(18)
0.502
0.528
0.578
0.507
0.519
0.404
0.404
(19)
2.38
1.12
1.12
1.68
0.904
1.55
1.87
(20)
1.24
1.23
1.20
1.29
0.915
1.10
1.07
(21)
1.44
1.42
1.32
1.96
1.12
1.40
1.42
(22)
2.26
1.94
2.09
1.86
1.74
1.50
1.71
(23)
1.97
1.71
1.83
1.79
1.64
1.77
1.58
(24)
2.06
1.77
1.78
1.36
1.72
1.32
1.33
いてダウンサンプリングしているために,画像が急激に縮められることを避けられるため
であると考えられる.
次に,従来法との比較を示す.なお,比較に用いる提案法のパラメータは,(n, m) =
(8, 8), (α, β) = (2, 1) である.まず BDW 距離および最大 BDW 距離を見ると,提案法
は従来法と同程度以上に距離が短いことが分かる.図 4.10,4.11 にリサイズ結果を示す.
視覚的にも,提案法は従来法に比べひずみを抑えられていることが分かる.従来法の結果
には,画像中の直線的なエッジがリサイズによりひずむ場合が多く見られる.このひずみ
46
(a) 原画像
(b) サイズ 4 × 4
(c) サイズ 8 × 8
(d) サイズ 16 × 16
図 4.6 異なるブロックサイズを用いた縮小結果.使用画像は画像 (2),ダウンサンプ
リングパラメータは (α, β) = (2, 1).
は,直線の周辺にある画素の接続関係が変化した場合に発生する.従来法は画素単位で事
後エネルギーを定めているため,接続関係の変化を防ぐための事後エネルギーの影響力が
小さい.そのため多くの画像において,はっきりとしたエッジに対してシームが斜めに交
差して接続関係を変化させる方が,総エネルギーが低くなる場合が見られた.一方提案法
で定義された事後エネルギーは,ブロックサイズが大きいほどその影響力を増す.シミュ
レーションで用いたブロックサイズにおいては,エッジにおける接続関係を変化させるよ
うなシームはあまり選択されず,接続関係がよく保たれた.また,提案法はブロック単位
の処理であるため,局所的に画像がひずむことを抑制できている.
ところで,図 4.11 に示されるように,画像 (5) と (18) の提案法を用いたリサイズ結果
には,原画像にはない偽輪郭状の縦線が発生している.ブロック単位で処理する提案法で
は,シームとして縮小されたグラデーションや細かな変化が続く領域は,周辺の領域に比
べ輝度変化が急になる.これら画像では,背景領域の一部が何度も縮小されたことによ
47
(a) サイズ 4 × 4
図 4.7
(b) サイズ 8 × 8
(c) サイズ 16 × 16
異なるブロックサイズを用いた縮小結果.使用画像は画像 (16),ダウンサンプ
リングパラメータは (α, β) = (2, 1).
(a) サイズ 4 × 4
図 4.8
(b) サイズ 8 × 8
(c) サイズ 16 × 16
異なるブロックサイズを用いた縮小結果.使用画像は画像 (24),ダウンサンプ
リングパラメータは (α, β) = (2, 1).
り,急峻な輝度変化を持つエッジを形成し,偽輪郭となった.このように提案法を用いた
リサイズでは,画像によっては同一箇所が何度も縮小され,偽輪郭のようなアーチファク
トが発生する可能性がある.シミュレーションに用いた画像において,このアーチファク
トが発生した画像はわずかであったが,より質の高いリサイズ画像を得るためには,この
アーチファクトの抑制が課題となる.抑制方法としては例えば,同一箇所が繰り返し選択
されることを防ぐために,ブロックの縮小回数に応じて増加するエネルギーなどを定義し
て用いる方法が考えられる.
最後に,計算コストについて述べる.表 4.3 に示すように,シミュレーションに用い
たパラメータでは,提案法は従来法に対して高速に動作した.シーム選択および画像縮
小の工程の中で最も計算コストの高い工程が,動的計画法によるシームの探索である.
この計算量は探索する要素数と縮小処理の回数に対して線形に増加するため,ブロック
48
(a) 原画像
(b)(α, β) = (2, 1)
(c)(α, β) = (4, 3)
図 4.9 異なるダウンサンプリングパラメータを用いた縮小結果.使用画像は画像 (1),
ブロックサイズは 16 × 16.
表 4.3 平均処理時間 [sec].
従来法
n,m
time [sec]
75.7
提案法 (α = 2, β = 1)
提案法 (α = 4, β = 3)
4
8
16
4
8
16
8.30
3.32
1.55
27.5
12.3
5.82
単位で処理を行う提案法は,ブロックサイズが大きくなるほど計算時間が短くなってい
た.また,(α, β) = (2, 1) の場合は単純な平均値処理であるため,バイリニア補間を行う
(α, β) = (4, 3) の場合よりも高速に動作した.
4.4.2 画像の拡大
提案法と従来法を用いて画像の横幅を 2 倍に拡大した結果を図 4.12 に示す.こちらで
用いた画像は縮小時に用いたものと異なり,拡大の効果を分かりやすくするために,横幅よ
りも縦幅が大きい画像を用いた.提案法で用いたパラメータは (n, m) = (8, 8), (α, β) =
(1, 2) である.従来法は拡大前に複製するシームを選択するため,図 4.12 上段の画像の
ように,重要領域が選択されて拡大される場合が多く発生した.一方提案法を用いた画像
拡大は,画像中の重要でない部分を選択しながらシームをアップサンプリングしているた
め,重要な部分がひずんでいない適切な拡大画像を得られた.また画像縮小の場合と同様
に,従来法を用いた場合に発生している直線のひずみを抑えることができた(図 4.12 下
段参照).
49
4.5 まとめ
本章では,従来のシームカービングをブロックベースに拡張した,ブロックベースシー
ムカービングを新たに提案した.多くの画像を用いたシミュレーションでは,提案法は従
来法に比べひずみの少ない拡大・縮小画像を生成した.提案法は,ブロック単位で処理を
行うことにより,最適シーム探索の処理に関わる高い計算コストを削減したため,従来法
に比べ高速にリサイズが可能であった.
今後の課題としては,本研究で定めることのできなかった最適なブロックサイズの決定
方法や,同一箇所が繰り返し縮小されて発生するアーチファクトの抑制方法について検討
し,よりひずみの少ないリサイズ画像を得ることが挙げられる.
50
原画像
従来法
提案法
図 4.10 従来法と提案法を用いた画像縮小結果の比較1.使用画像は上から順に画像
(11),(13),(14),(17),提案法のパラメータは (n, m) = (8, 8), (α, β) = (2, 1).
51
原画像
従来法
提案法
図 4.11 従来法と提案法を用いた画像縮小結果の比較2.使用画像は上から順に画像
(3),(4),(5),(18),提案法のパラメータは (n, m) = (8, 8), (α, β) = (2, 1).提案法
を用いて縮小した (5),(18) の結果画像には,偽輪郭状の縦線が見られる.
52
原画像
図 4.12
従来法
提案法
従 来 法 と 提 案 法 を 用 い た 画 像 拡 大 結 果 の 比 較 .提 案 法 の パ ラ メ ー タ は
(n, m) = (8, 8), (α, β) = (1, 2).
53
第5章
ウェーブレット変換領域におけるシーム
カービング
5.1 本章の目的
前章では,シームカービング高速化の一つのアプローチとして,ブロックベースシーム
カービングを提案した.本章ではもう一つのアプローチとして,ウェーブレットベース
シームカービングを提案し,提案法を用いることにより高速に画像の内容を保持したリサ
イズが可能であることを示す.
5.2 ウェーブレットベースシームカービング
ウェーブレットベースシームカービングは,画像に離散ウェーブレット変換 (DWT)
を行うことで得られる DWT 領域において,シームカービングを行う.ここで,DWT
について簡単に説明する.画像に対する DWT は,図 5.1 に示すように1次元2分割
フィルタバンクを画像の縦,横で処理し,二次元平面を 4 分割する.これを基本単位と
し,低域 (LL) 成分を再帰的に変換する.本論文では,この変換回数をレベルと表現し,
(l)
最上位のレベルを lmax ,レベル l における低域の変換画像を X(LL) ,各サブバンドを
(l)
(l)
(l)
X(HL) , X(LH) , X(HH) とする.また提案法では,DWT の 2 分割フィルタバンクに 5/3
フィルタを用いる.各サブバンド信号は画像中のエッジ成分に相当するエネルギーを持
(l)
(l)
(l)
ち,X(HL) は横方向,X(LH) は縦方向,X(HH) は斜め方向のエッジを表す.
提案法は,最上位レベルの変換画像を基準として最適シームの計算や縮小処理を行うこ
とで,従来法に対して計算量を低減できる.提案法では,動的計画法の計算対象となる
要素数は,従来法に対して約 1/4lmax になる.また,1 回の処理で 2lmax の画像幅縮小を
行う.
提案法における画像幅の縮小処理は,シームの削除ではなく,シームの縮小により行わ
れる.これは,一度に多くの画像幅縮小を行う場合,画素の削除では空間的な連続性が大
幅に失われてしまうためである.シームの縮小を可能にするために,提案法におけるシー
ムは,図 5.2 に示すように 2 画素以上の幅を持つ.この幅は,後述するようにレベルに
54
Vertical
Horizontal
2-channel
LFB
- 2-channel
FB
H 2-channel
FB
LHLH-
LL
LH
HL
LL
LH
HH
HL
HH
(a) 画像に対するウェーブレット変換
図 5.1
(b) 変換画像
画像に対するウェーブレット変換のプロセス (a) とその変換画像 (b).
(a) 従来法
(b) 提案法
図 5.2
従来法と提案法におけるシームの例.
図 5.3 提案法におけるシームの位置.
よって異なる.
提案法における画像縮小処理のフローを以下に示す.まず,画像に対して所望のレベル
の DWT を行う.次に,DWT 領域においてシームの選択と縮小処理を繰り返し行う.ま
た,ひずみの発生を抑えるために,繰り返し処理の過程で DWT のレベルを適応的に下げ
る.所望のサイズまで縮小したら,最後に逆離散ウェーブレット変換 (IDWT) を用いて
画像を再構成する.
55
5.2.1 シームの定義
シームは,DWT により得られた各サブバンドの画像それぞれに必要であり,その位置
(l
)
max
は,最上位の低域画像 X(LL)
におけるシームの座標を基準とする.各サブバンドにおけ
るシームは,低域画像におけるシームと空間的に同じ位置関係にある画素とする.なお,
max
レベル l における同じ位置関係とは,X(LL)
(i, j) に対して,0 ≤ s, t < 2lmax −l とした
(l
)
ときの X(∗) (2lmax −l i + s, 2lmax −l i + t) (∗ = {LH, HL, HH}) である.ここで図 5.3 に,
(l)
2レベルの DWT を行った場合のシームの位置の例を多重解像度表現した画像で示す.
なお,変換画像を明確に表現するために,低域画像以外は成分を 5 倍に増幅して表示して
いる.
提案法におけるシームの幅は,低域画像は 2 画素,レベル l のサブバンドは 2lmax −l+1
画素とする.ここで,低域画像におけるシームの要素となる 2 画素の組を si = {ri , ri }
と表す.ri = (i, x(i)) は,i 行 x(i) 列の画素を表し,ri = (i, x(i) + 1) とする.低域画像
における垂直方向のシームは,画像の上から下に向かう si の連結パス(図 5.2(b) 参照)
として,以下の式で表される.
sx = {si }hi=1 s.t. ∀i, |x(i) − x(i − 1)| ≤ 1.
(5.1)
ここで h は低域画像の縦幅を表す.
式 (5.1) で表される多くのシームの中から,縮小処理後も画像の内容を保持し,かつひ
ずみの発生が少ない最適なシームを一つ選択する.この最適シームの選択には,次項に述
べるエネルギー関数の最小化を用いる.最適シーム選択後は各サブバンドのシームの幅を
半分に縮小する.この縮小は,全てのサブバンドで隣の画素との平均を取ることにより行
(l
)
max
われる.例えば,低域画像において,画素 X(LL)
(ri ) は,
(l
)
max
X(LL)
(ri ) ←
1 (lmax )
(lmax )
(X
(ri ) + X(LL)
(ri ))
2 (LL)
(5.2)
で更新される.
5.2.2 シームのエネルギー
提案法で用いるエネルギー関数として,シームの要素が持つエネルギーと,シームの縮
小により発生する画像のひずみを抑えるエネルギーを用いる.これはそれぞれ,従来法
における事前エネルギーと事後エネルギーに相当するエネルギーである.これらのエネ
(l)
ルギー計算のために,各サブバンドのエネルギーマップ M(a) (ri ) を導入する.ここで,
l ∈ {1, .., lmax },a ∈ {LH, HL, HH} である.エネルギーマップの初期値は,原画像に
DWT を適用して得られるサブバンド信号の絶対値とする.エネルギーの計算には最上位
レベルのエネルギーマップのみを用いるが,次節で述べる DWT レベルの適応的な変更の
ために,下位のサブバンドについても作成する.
56
シームの要素が持つエネルギーは,画像中の重要領域ほど高くすることで,その領域が
縮小されることを防ぐ.提案法では,重要領域の指標としてエッジの強度を用いる.この
エネルギーは,シームの要素 si を構成する ri と ri のエネルギーマップの和として以下
のように表される.
∑
E(si ) =
(l
)
M̂(a)max (si )
(5.3)
a
ここで
(l
)
(l
)
(l
)
M̂(a)max (si ) = M(a)max (ri ) + M(a)max (ri )
(5.4)
である.
縮小により発生する画像のひずみを抑えるエネルギーは,シームの連結方向によって変
化させる.シームの要素が斜めに連結される場合,連結した要素の間で画素の接続関係が
変化するため,縮小後にひずみが生じやすい.図 5.4 は,斜めにシームが連結され,直線
にひずみが生じる例を表している.なお,図中の太枠で囲まれた画素はシームを表してい
る.図 5.4 に示されるように,強いエッジを持つ領域のひずみは,視覚的な違和感を与え
る.このひずみの発生を抑制するために,シームが斜めに連結する場合には,エッジの強
度に比例したエネルギーを加える.ただし横幅の縮小処理においては,考慮するエッジ成
分は縦および斜めのみである.これは,垂直方向のシームの場合,横方向の画素の接続関
係は変化しないためである.また,DWT のレベルが高いほど画素の接続関係の変化が大
きくなり,大きなひずみとなるため,レベルが高いほどこのエネルギーを高くする.以上
より,画像のひずみを抑えるエネルギーを
{
0
if x(i) = x(i − 1)
G(si−1 , si ) otherwise
F (si−1 , si ) =
(5.5)
と表す.ここで
G(si−1 , si ) = 2lmax
∑
(l
)
(l
)
(M̂(amax
(si−1 ) + M̂(amax
(si ))
′)
′)
(5.6)
a′ ∈{LH,HH}
である.シームが直線的に連結している場合は画素間の接続関係の変化がないため,エネ
ルギーは 0 としている.
最適シームは,これらのエネルギーの和が最小となるシームであり,
s∗ = argmin
s
h
∑
i=1
E(si ) +
h
∑
F (si−1 , si )
(5.7)
i=2
と表される.式 (5.7) は,動的計画法を用いることにより,効率的に計算できる.動的計
画法の計算対象となる要素数は,最上位のシームの要素数と同じであるため,動的計画法
の計算コストは従来法に対して約 1/4lmax になる.
最適シームの縮小処理後には,エネルギーマップを更新する.各サブバンド画像の縮小
と同様に,各サブバンドのエネルギーマップにおいて,最適シームに位置する要素の幅を
57
図 5.4 直線にひずみが生じる例.
半分に縮小する.ただし更新する値については,画像の縮小では隣接画素間の平均を用い
たが,エネルギーマップの更新では,隣接する要素のエネルギーを加算し,エネルギー
マップの更新を調整する係数 α で割ることにより求める.例えば,最上位のサブバンドに
(l
)
おけるエネルギーマップの要素 M(a)max (ri ) は,
(l
)
M(a)max (ri ) ←
1
(l
)
(l
)
(M(a)max (ri ) + M(a)max (ri ))
α
(5.8)
で更新される.α は,同一箇所が繰り返し縮小されることを許容する指標となる.α = 1
の場合は,縮小処理された位置のエネルギーが単純に加算されるため,処理が進むにつ
れ,一度縮小された場所が再度縮小される可能性が低くなる.α = 2 の場合は,エネル
ギーの平均を取っているためエネルギーは増加せず,同一の場所が再度縮小される可能性
が高くなる.なおエネルギーの更新は,次節で述べる DWT レベルの適応的な変更処理の
ために,下位レベルについても行う.
5.2.3 変換レベルの適応的変更
変換レベルが高い場合は一度に多くの縮小を行うため,重要な部位が多い画像では,重
要部位がシームとして縮小されひずみが生じる可能性が高くなる.このひずみの発生を
抑制するために,適応的に DWT の変換レベルを下げ,縮小処理が進むほど一度に縮小
される幅を小さくする.変換レベルを下げる判定には,最適シームのエネルギーを用い
る.エネルギーが大きい場合は,重要領域を多く含む,または斜めに連結するシーム要素
が多いことを示しており,これはひずみが生じる可能性が高いことを意味する.そこで,
エネルギーがある程度大きくなった場合に,変換レベルを下げる.ここで,レベル lmax
(l
)
における 1 回目の縮小処理における最適シームのエネルギーを S1 max とし,同レベル
(lmax )
の t 回目の処理における最適シームのエネルギーを St
(l
)
て,T S1 max
<
(l
)
St max
とする.t 回目の処理におい
となった場合,縮小処理後に最上位レベルの変換画像に対して
IDWT を適用することで,変換レベルを一つ下げる.ここで T は,変換レベル調整パラ
メータである.
変換レベルを下げる場合,用いるエネルギーマップのレベルも同様に下げる.レベルを
(l
)
下げる際に,M(∗)max をニアレストネイバー法を用いて縦横それぞれ 2 倍に拡大すること
(l
で M(∗)max
−1)
と同じ大きさにし,拡大によって増加したエネルギーを 1/4 にすることで
58
原画像
従来法
提案法(適応処理なし)
図 5.5
提案法(適応処理あり)
変換レベルの適応的変更処理の有無による結果の比較.使用画像は画像 (2).
(l
正規化し,M(∗)max
−1)
と足し合わせることで,エネルギーマップを更新する.
5.3 シミュレーションおよび考察
提案法における各種パラメータがリサイズに及ぼす影響について,シミュレーションで
検討する.また,Rubinstein らの手法 [93] を用いた従来のシームカービング手法,4 章で
提案したブロックベースシームカービング (BBSC) と提案法の比較を行う.シミュレー
ションでは,各手法を用いて画像の横幅を半分に縮小した.用いた画像は,図 2.7 に示し
た 24 枚の画像である.シミュレーションには CPU Intel Core2 2.66GHz, RAM 2GB の
PC を用い,プログラムの実装は Matlab で行った.リサイズ精度の客観的な評価指標に
は,2.2.5 項で述べた BDW 距離と最大 BDW 距離を用いた.BDW 距離はリサイズ画像
全体の平均ひずみ,最大 BDW 距離はリサイズ画像内の最大ひずみを表す指標であり,距
離が短いほどひずみが少ないリサイズ結果であることの目安となる.なお,提案法におけ
る最適な変換レベル調整パラメータについては,今回のシミュレーションでは検討せず,
59
原画像
従来法
提案法 lini = 1
提案法 lini = 2
提案法 lini = 3
10[sec]
3.0[sec]
1.3[sec]
図 5.6
開始レベルの違いによる結果および計算速度の比較.使用画像は画像 (20).
経験的に最適な画像が得られる値として導出した T = 2 を用いた.
DWT レベルの適応的変更処理の有無による縮小結果を図 5.5 に示す.なお,DWT の
開始レベルは lini = 2,エネルギーマップの更新の係数は α = 1.5 とした.図に示される
ように,適応処理がない場合は,シームの幅が広く,重要領域がシームとして縮小されひ
ずみが生じている.一方,適応処理がある場合は,わずかな幅の非重要領域をシームとし
て縮小できており,ひずみの発生を抑えることができている.
DWT の開始レベルが異なる場合の縮小結果および処理時間を図 5.6 に,BDW 距離を
表 5.1 に,最大 BDW 距離を表 5.2 に示す.用いたパラメータは,lini = 1, 2, 3,α = 1.5,
DWT レベルの変更処理ありとした.開始レベルが高いほど,一度に多くの画素幅を縮小
できるため,処理時間が短い.ただし,変換レベルが高いほど,シームの幅が広いため,
重要領域がシームとして縮小される可能性が高まる.lini = 3 の結果画像には,前景の人
60
原画像
提案法 α = 1
従来法
提案法 α = 1.5
BBSC 提案法 α = 2
図 5.7 異なるエネルギーマップの更新係数を用いた結果の比較.使用画像は画像 (5).
物の一部が縮小され,わずかだがエッジの鋭さが失われている部分が見られる.また,図
5.6 の縮小結果では,開始レベルによらず同程度の量の背景が縮小されているが,背景の
縮小結果には差が見られる.これは,変換レベルが高いほど,縮小時の平滑化範囲が広く
なるためである.BDW 距離および最大 BDW 距離の結果には,開始レベルの違いによる
傾向は特に見られず,同程度の距離を示すものが多かった.適切な開始レベルは,画像の
サイズや内容によって異なると考えられるが,今回シミュレーションに用いた画像では,
lini = 2 の場合に最も良好なリサイズ結果を示す場合が多かった.
エネルギーマップの更新の係数が異なる場合の縮小結果を図 5.7 に,BDW 距離を表 5.1
に,最大 BDW 距離を表 5.2 に示す.用いたパラメータは,α = 1, 1.5, 2,lini = 2,DWT
レベルの変更処理ありとした.α が小さいほど同じ場所を縮小しにくいため,α = 1 にお
61
表 5.1
従来法
BDW 距離 [10−2 ]
BBSC
提案法 (lini , α)
(2, 1.5)
(1, 1.5)
(3, 1.5)
(2, 1)
(2, 2)
(1)
0.167
0.190
0.158
0.172
0.153
0.162
0.254
(2)
0.485
0.423
0.430
0.433
0.436
0.346
0.498
(3)
0.762
0.808
0.606
0.562
0.630
0.306
0.833
(4)
0.778
0.728
0.546
0.565
0.562
0.416
0.799
(5)
0.264
0.309
0.267
0.263
0.255
0.239
0.283
(6)
0.415
0.336
0.251
0.239
0.371
0.215
0.743
(7)
0.336
0.297
0.210
0.228
0.226
0.234
0.364
(8)
1.35
0.833
0.716
0.674
0.742
0.500
1.12
(9)
0.275
0.249
0.244
0.233
0.235
0.200
0.357
(10)
1.66
1.47
1.39
1.58
1.30
1.51
1.46
(11)
0.866
0.775
0.719
0.776
0.792
0.778
0.753
(12)
0.352
0.367
0.301
0.314
0.292
0.326
0.358
(13)
0.357
0.626
0.307
0.312
0.320
0.259
0.486
(14)
0.968
0.781
0.810
0.843
0.765
0.763
0.900
(15)
0.367
0.356
0.311
0.338
0.326
0.386
0.350
(16)
0.399
0.335
0.346
0.346
0.348
0.325
0.402
(17)
0.0718
0.0591
0.0470
0.0505
0.0486
0.0615
0.183
(18)
0.129
0.129
0.108
0.147
0.0958
0.181
0.128
(19)
0.957
0.610
0.551
0.624
0.524
0.523
0.976
(20)
0.173
0.240
0.157
0.177
0.148
0.210
0.226
(21)
0.458
0.410
0.411
0.495
0.398
0.517
0.384
(22)
0.845
0.739
0.760
0.759
0.712
0.761
0.780
(23)
0.761
0.673
0.639
0.622
0.632
0.566
0.776
(24)
0.960
0.838
0.951
0.995
0.805
1.01
1.04
ける縮小画像では前景の物体がいくらか縮小されており,α = 1.5 では適当なリサイズ画
像が得られている.それとは対照的に,α = 2 における縮小画像では,同一の部分が何度
も縮小され,BBSC で問題となっていた偽輪郭状の縦線が発生している.また,BDW 距
離および最大 BDW 距離の結果を見ても,α = 1 の場合と α = 1.5 の場合を比較した時に
特定の傾向は見られなかったが,α = 2 の場合は他と比べて距離が大きいことが分かる.
このことから,パラメータにより同一箇所が繰り返し縮小されることを抑制できる提案法
が,ひずみの発生を抑えたリサイズに有効であることが分かる.
62
表 5.2
従来法
最大 BDW 距離 [10−1 ]
BBSC
提案法 (lini , α)
(2, 1.5)
(1, 1.5)
(3, 1.5)
(2, 1)
(2, 2)
(1)
0.919
1.05
0.858
0.877
0.833
0.652
1.42
(2)
1.44
1.66
1.31
1.37
1.27
1.00
1.95
(3)
2.80
4.31
2.66
2.32
3.49
1.18
4.25
(4)
1.79
1.75
1.29
1.35
1.46
0.935
1.84
(5)
1.39
1.56
1.46
1.43
1.34
1.04
1.40
(6)
1.82
1.33
1.26
1.28
1.28
1.11
1.61
(7)
2.06
1.45
1.29
0.964
0.959
0.691
1.59
(8)
3.13
3.27
2.74
2.57
2.44
1.71
3.34
(9)
1.12
1.02
0.966
0.928
0.921
0.709
1.23
(10)
2.52
2.46
2.22
2.08
2.22
1.74
2.53
(11)
3.15
2.34
1.83
2.01
2.08
2.02
2.61
(12)
1.97
1.50
1.14
1.30
1.19
1.15
1.55
(13)
2.00
2.83
2.07
2.26
1.88
1.78
2.78
(14)
3.99
4.18
3.81
4.09
3.71
3.55
4.27
(15)
3.05
2.57
1.79
1.91
2.10
2.75
2.76
(16)
0.839
0.648
0.573
0.628
0.553
0.615
0.622
(17)
1.15
0.558
0.356
0.494
0.296
0.557
0.907
(18)
0.502
0.578
0.532
0.808
0.502
1.04
0.469
(19)
2.38
1.12
0.932
1.29
0.901
1.15
1.61
(20)
1.24
1.20
1.03
1.00
1.04
0.818
1.09
(21)
1.44
1.32
1.01
1.28
1.07
1.33
1.37
(22)
2.26
2.09
2.05
1.91
2.27
1.64
2.16
(23)
1.97
1.83
1.60
1.58
1.49
1.31
1.94
(24)
2.06
1.78
1.45
1.50
1.42
1.36
1.75
従来法と提案法との比較結果を図 5.5,5.6,5.7,5.8 に,処理時間を表 5.3 に示す.提
案法において用いたパラメータは,lini = 2,α = 1.5,DWT レベルの変更処理ありとし
た.なお従来法を用いた場合の計算時間は,画像サイズが大きい場合の方が短くなってい
るが,これは Matlab 内部における処理最適化の影響である.提案法は,画像によって各
変換レベルで削除する画素数が異なるため処理時間は画像によって異なるが,従来法より
も高速にリサイズが行えることが分かる.またリサイズ画像を比較すると,提案法は従来
法と同程度以上にひずみの少ないリサイズが行えていることが分かる.提案法は一度にま
63
表 5.3
従来法と提案法の処理時間および提案法における各レベルの縮小幅.
画像番号
サイズ
処理時間 [sec]
従来法 提案法
縮小幅 [pixel]
Level2
Level1
(2)
576 × 768
70
8.6
128
256
(3)
512 × 768
80
6.7
180
204
(5)
576 × 768
70
5.2
276
108
(20)
512 × 768
78
3.0
384
0
とまった領域に対して縮小処理を行うため,しばしば従来法で問題になる細かなひずみが
生じにくい.また提案法では,シームが斜めに連結する場合には従来法に比べ大きく縦の
接続関係が変わるが,そのことによるひずみはほとんど目立たない.これは,IDWT で
用いた基底が比較的滑らかであるため,画像が滑らかに再構成されるためだと考えられ
る.しかし,画像 (15) のリサイズ結果(図 5.8 最下段)を見ると,提案法ではオブジェク
トの一部が縮小され,好ましくないリサイズ画像を生成した.これは,一度にある程度の
幅を縮小の対象にしてしまう提案法では,従来法のようにわずかな背景領域のみを選択す
ることが困難なためである.また,BDW 距離は提案法の方がわずかに短くなっている.
これは縮小されたオブジェクトが画像全体に占める割合は小さく,また縮小された領域が
滑らかであるため,BDW 距離の計算に大きな影響を及ぼさなかったためであると考えら
れる.BDW 距離は,リサイズにおける画像の質を表す一つの目安にはなるが必ずしも視
覚的な好ましさとは一致しないため,より客観的にリサイズの質を評価する方法が求めら
れる.
5.4 まとめ
本章では,ウェーブレット変換領域においてシームカービングを行う,新たな画像リサ
イズ手法を提案した.提案法は,最上位レベルの変換画像を基準として最適シームの計算
や縮小処理を行うことで,従来のシームカービングに対して計算量を低減できる.提案法
は一度の処理で多くの画像幅を縮小するが,シームの縮小処理や,画像再構成時に行う逆
ウェーブレット変換の効果により,空間の連続性をなるべく維持したひずみの目立たない
リサイズが行える.また,変換レベルを適応的に変更することで,ひずみの発生を抑える
ことができる.さらに,エネルギーマップを用いて同一箇所が連続して縮小されることを
抑制できるため,4 章で提案したブロックベースシームカービングにおいて問題となって
いた偽輪郭状のアーチファクトの発生を抑えることができる.
64
原画像
従来法
提案法
図 5.8 従来法と提案法を用いた画像縮小結果の比較.使用画像は上から順に画像 (3),
(6),(23),(15),提案法のパラメータは lini = 2,α = 1.5.
65
第6章
シームマージング
6.1 本章の目的
1.1.4 項で述べたように,画像リサイズにおいて画像中の構造を保持することは,質の
高い画像を得るために重要である.しかし,シームカービングの改良手法において,これ
を考慮した研究は行われていない.そのため,シームカービングを用いて得られるリサイ
ズ画像において,画像中の構造が維持されず,視覚的に好ましくないひずみが発生する場
合が多く見られた.また,構造の保持を考慮していないことを除いても,画像の縮小幅が
大きい場合にひずみが目立つことが問題となっている.これは,1 画素分の幅を縮小する
処理の前後の画像間ではその変化が少なく目立ったひずみにはならないが,繰り返し縮小
処理が行われることでわずかなひずみが蓄積され,結果的に大きなひずみとなるためであ
る.この問題は従来法が,リサイズ中は原画像を参照せず,1 画素分の幅を縮小する処理
の前後の画像間のみを参照していることに起因する.
そこで本章では,シームマージングと呼ばれる新たなリサイズ手法を提案し,前述の問
題を解決する.提案法は,従来のシームカービングと同様に定められたエネルギー総和が
最小となるシームを選択して処理するが,画像幅の縮小は,画素を削除するのではなく隣
り合う画素の統合により行われる.また,画素の持つ構造を隣接画素間の輝度差で定義
し,接続関係を用いてエネルギーを計算する.このエネルギーは,原画像の接続関係とリ
サイズ画像の接続関係の変化に応じて大きくなるため,原画像が持つ構造をなるべく維持
するようなシームが選択される.このように提案法は,従来法とは異なり,リサイズ処理
において常に原画像の持つ情報を参照することで,ひずみの蓄積を抑えたリサイズを可能
にする.また,エネルギーの逐次的計算方法,動的計画法を用いた選択すべきシームの計
算方法,提案法を用いた画像拡大法についても示す.
6.2 シームマージング
本章で新たに提案するシームマージングは,シームカービングと同様に,シームと呼ば
れる画素の集合を選択し,縮小処理を行う.シームカービングにおけるシームは,画像の
上から下または左から右に向かって連続する画素のパスである.削除してもひずみが目立
66
Seam
図 6.1
シームと縮小処理の例.
Input
original image
?
Calculate
merging energy
?
Search optimal seam
?
Merge pixel pair
?
P
PP
P
PPDesired size?P
N
PP
P Y
?
Output
resized image
図 6.2
提案法における画像幅縮小のフロー図.
たないシームを求め,削除することで画像幅を縮小する.一方提案法は,隣り合う画素を
統合することにより縮小を行う.そのため,シームを構成する要素は図 6.1 に示すように
二つの連続する画素のペアとし,シームは画像の上から下または左から右に向かって連続
する画素のペアの集合とする.シームの詳細な定義については 6.2.1 項で述べる.統合し
てもひずみが目立たないシームを探し,選ばれた画素のペアを統合することで画像幅を縮
小する.
提案法では,画像の構造を保持することで質の高いリサイズを行う.そのためには,ま
ず構造を定義する必要がある.提案法では,画素の持つ構造を隣接画素間の輝度差で定義
し,この輝度差を画素の「接続関係」と呼ぶ.二つの画素のペアが統合して一つになった
画素の接続関係は,元の二つの画素の接続関係に対して変化することがある.接続関係が
変化した場合,視覚的に見てもそれは大きな変化として表れる.そこで,最も接続関係が
維持されるシームを統合することで,構造を保持したリサイズが行えると考えられる.提
案法では,シームの統合処理により統合された画素の接続関係と,原画像の対応する画素
の接続関係の差によって定義されるエネルギーを統合エネルギーと呼び,統合エネルギー
の総和が最小となるシームを選択する.統合エネルギーについては 6.2.2 項で述べる.従
来のシームカービングがシームを削除する前後の画像間の関係のみを考慮しているのに対
67
し,提案法は原画像とリサイズ後の画像間の関係を考慮しており,これによりひずみの発
生を抑える.
ここで図 6.2 に,提案法を用いた画像幅縮小のフローを示す.画像幅縮小は,大きく分
けて三つの工程からなる.まず,各画素ペアが統合した場合に生じる統合エネルギーを計
算する.次に,統合エネルギーの総和が最小になるシームを探索する.最後に,得られた
最適シームの画素ペアを統合する.これを望むサイズになるまで繰り返すことにより,所
望のサイズの画像を得る.
6.2.1 シームの定義
本項では,提案法で用いるシームを定義する.簡潔な議論のために,ここでは画像の横
幅を縮める場合についてのみ述べる.また,画像の座標系は行列表現を用いて表す.
提案法における画像幅の縮小は,画像の各行において,左右に隣り合う画素を一組選択
し統合することにより行われる(統合処理の詳細は 6.2.2 項に後述)
.そのため,一度の処
理で画像幅が 1 画素縮小される.また統合する組を選ぶ際に,各行の統合する組を上下に
隣接させる制約を加えることで,各行の間の連続性を保つ(図 6.1 参照).ここで,画素
ri = (i, x(i)) と ri = (i, x(i) + 1) の組を si と表し,x(i) は i 行目の画素が取りうる列番
号を表す.画像の上から下に向かって連なる si の集合を垂直シームと呼び,以下の式で
定義する.
s = {si }hi=1 s.t. ∀i, |x(i) − x(i − 1)| ≤ 1.
(6.1)
ここで h は,画像の縦の画素数を表す.式 (6.1) で表されるシームの中から,統合したとき
に最も画素の接続関係が維持される最適シームを選び,縮小処理を行う.画素 ri と ri は
ri に統合され,それより右に位置する画素は,一つ左の座標に移動する.この縮小処理を
所望の画像サイズになるまで,繰り返し行う.ここで,k 回目の縮小処理において si が統
合されたとき,統合後の画素 ri において計算される統合エネルギーを Ek (si )(= Ek (ri ))
とすると,最適シーム sk は以下の式で表される.
sk = argmin
s
h
∑
Ek (si ).
(6.2)
i=1
6.2.2 統合エネルギー
本節では,画素が統合した場合に生じる,画素の接続関係が維持されていない度合いを
表す統合エネルギーについて述べる.統合エネルギーは統合された画素について計算され
るため,まずその画素値について定義する.k 回目の統合処理によって統合された画素の
輝度値 Ik (r) は,これまでに統合した画素の平均輝度
Ik (r) =
1
N (Qk (r))
∑
I0 (q),
(6.3)
q∈Qk (r)
68
とする.ここで,Qk (r) は,座標 r に統合された画素が,原画像においてどこに位置す
る画素であったかを参照するための座標の集合であり,座標の統合履歴を表す.また,
N (Qk (r)) は,Qk (r) の要素数を表す.原画像 I0 においては,Q0 (r) = {r}, N (Q0 (r)) =
1 となる.また,画素 r と r が k 回目の処理で統合した場合,Qk (r) = Qk−1 (r)∪Qk−1 (r)
と更新される.
さて,ここで原画像 I0 の画素 q における,隣接する画素 q + n との接続関係を
C0 (q, n) = I0 (q) − I0 (q + n)
(6.4)
と定義する.ここで n は,後述する上下左右の接続方向を表すベクトルである.同様に,
k 回目の処理後の画像 Ik において,統合された画素 r の接続関係を Ck (r, n) と表す.こ
こで,q ∈ Qk (r) とすると,画素 q の接続関係は,統合により C0 (q, n) から Ck (r, n) へ
と変化したことになる.提案法では,この接続関係の変化が小さいほど,原画像における
接続関係がリサイズ後も維持されているとみなす.統合エネルギーは,k 回目の処理にお
いて画素 r と r の組 s が統合された場合の,統合後の画素 r にこれまでに統合された画
素の接続関係の変化の二乗和として,以下の式で表される.
Ek (s) = Ek (r) =
∑
∑
2
(Ck (r, n)−C0 (q, n)) .
(6.5)
n∈N q∈Qk (r)
ここで,N は接続関係を考慮する隣接方向のベクトル集合を表し,本論文では上下左右の
隣接方向を表す集合 N = {(1, 0), (−1, 0), (0, 1), (0, −1)} を用いる.
6.3 実装方法
本節では,提案法を用いてリサイズを行う際の実装方法について述べる.式 (6.3) で表
される統合後の輝度値 Ik (r) および式 (6.5) で表されるエネルギー Ek (r) は,Qk (r) の要
素を参照することで計算できる.しかし,Qk (r) の要素数は画素により異なるため,画素
ごとに異なる処理が必要となる.これは,ハードウェアの構成を複雑にしたり,並列処理
を困難にしたりする.そこで 6.3.1 項では,Qk (r) の要素を参照することなしに,Ik (r)
および Ek (r) を逐次的に計算する手順について述べる.また 6.3.2 項では,最適シームを
求めるために,動的計画法を用いて式 (6.2) を解く手順を示す.さらに 6.3.3 項では,提
案法を用いて画像拡大を行う場合の手順を示す.
69
6.3.1 エネルギーの逐次計算
k 回目の処理において画素 r と r が統合した場合の Ik (r) および Ek (r) の計算方法に
ついて考える.まず,
∑
Hk (r) =
I0 (q)
q∈Qk (r)
=
∑
I0 (q) +
q∈Qk−1 (r)
∑
I0 (q)
q∈Qk−1 (r)
(6.6)
= Hk−1 (r) + Hk−1 (r)
と置くと,これと式 (6.3) より,輝度値は
Hk (r)
N (Qk (r))
Hk−1 (r) + Hk−1 (r)
=
N (Qk−1 (r)) + N (Qk−1 (r))
Ik (r) =
(6.7)
と表される.すなわち,輝度値 Ik (r) は,H および N (Q) を記録して用いることにより,
Qk (r) の要素を参照することなしに,逐次的に計算できる.次に,Ek (r) の計算方法につ
いて述べる.まず,式 (6.5) を以下のように展開する.
Ek (r) =
∑
∑
(
C0 (q, n)2 − 2C0 (q, n)Ck (r, n) + Ck (r, n)2
)
(6.8)
n∈N q∈Qk (r)
ここで,
∑
Fk (r, n) =
C0 (q, n)
q∈Qk (r)
= Fk−1 (r, n) + Fk−1 (r, n)
∑
Gk (r, n) =
C0 (q, n)2
q∈Qk (r)
= Gk−1 (r, n) + Gk−1 (r, n)
と置き,式 (6.8) に代入し展開すると,
Ek (r) =
∑
(Gk (r, n) − 2Fk (r, n)Ck (r, n) + N (Qk (r))Ck (r, n)2
)
(6.9)
n∈N
となる.ここで,Ck (r, n) = Ik (r) − Ik (r + n) であるため,式 (6.9) は Qk (r) の要素を
参照することなしに,Fk−1 , Gk−1 , Hk−1 , N (Qk−1 ) を用いて計算可能であることが分か
る.以上に示したように,Ik (r) および Ek (r) は,H, N (Q) および考慮する接続方向数
分(提案法では 4 方向)の F, G を保存して用いることで,逐次的に計算できる.
70
(a)
図 6.3
(b)
(c)
考慮する接続関係によるリサイズ結果の比較.(a) 原画像(一部拡大),(b) 左
右方向を考慮,(c) 上下左右方向を考慮.
M(r-m)
Emu(r)
Emd(r-m)
M(r)
Elr(r)
図 6.4 M (r) の計算に用いる統合エネルギーの位置関係.
6.3.2 動的計画法によるシーム探索
最適シームを表す式 (6.2) は,動的計画法を用いることにより,効率的に計算でき
る [92].ここでは,垂直シームを計算する手順について述べる.まず,画像の 2 行目から
最終行まで順に,統合エネルギー E(r) の総和の最小値 M (r) を以下の式を用いて計算
する.
M (r) = E(r) + min(M (r − m)), m ∈ {(1, 1), (1, 0), (1, −1)}.
(6.10)
ここで,m はシームの接続方向を表すベクトルである.次に,最終行の M (r) の中の最
小値を持つ画素から,上の行に向かって min(M (r − m)) を満たす画素をたどることによ
り,最適シームを得ることができる.
前述の計算方法は,統合エネルギーの計算において,左右の接続関係のみを考慮する場
合は問題ない.しかし,上下方向を考慮しない場合,縦方向の連続性が失われ,例えば図
6.3 に示すような,視覚的に目立つ不連続な部位が発生していた.そのため,本提案法で
は,上下左右 4 方向の接続関係を用いる.しかし,上下の接続関係も考慮する場合,前述
の計算方法を同じように用いることはできない.これは,以下の理由による.M を計算
するためには統合エネルギーが求まっている必要があるが,i − 1 行目における下方向の統
合エネルギーを求めるためには,i 行目の画素値が定まっていなければならない.しかし,
画像の上の行から順に計算していく前述の計算手順においては,i − 1 行目の統合エネル
ギー計算時には,i 行目がどのように統合した場合にエネルギー総和が最小になるのかが
71
定まらない.そのため,i − 1 行目における下方向の統合エネルギーが計算できず,i − 1 行
目の統合エネルギーを求めることができない.そこで,次のような手順を用いて,動的計
画法を適用する.まず,左右方向の統合エネルギーの和を Elr (r),上方向を Eu (r),下方
向を Ed (r) と置き,統合エネルギーを各接続方向の和 E(r) = Elr (r) + Eu (r) + Ed (r) と
して表す.i − 1 行目の統合画素 r − m における E(r − m) の計算を行う場合,Ed (r − m)
は i − 1 行目の統合エネルギー計算時には計算できないため,この時点では,Elr (r − m)
と Eu (r − m) のみを計算する.Ed (r − m) の値は,i 行目の統合処理により r が生じた
ときに定まるため,i 行目の M (r) 計算時に Ed (r − m) を加算する.ここで,上下方向の
統合エネルギーは m によって異なるため,シームの接続方向が m の場合の Ed (r − m)
を Edm (r − m),Eu (r) を Eum (r) と表す.これらを用いると,M (r) は
M (r) = Elr (r) + min (Eum (r) + Edm (r − m) + M (r − m))
(6.11)
と表すことができる.例えば m = (1, 1) のとき,M (r) の計算に用いる統合エネルギー
の位置関係は,図 6.4 のようになる.以上の手順により,動的計画法を用いた最適シーム
の計算が可能となる.
6.3.3 画像拡大への応用
本項では,提案法を用いた画像拡大手法について述べる.画像拡大は,2.2.4 項で述べ
たシームカービングを用いた画像拡大法と似た手順で行う.まず,提案法を用いて,所望
の拡大幅と同じ幅だけ画像幅を縮小し,この時に選択されたシームを記録する.次に原画
像に対して,選択されたシームの要素を結合するのではなく,要素の間に画素を挿入す
る.例えば,縮小処理において ri と ri が統合された場合,ri と ri の間に,その平均値
を画素値とする新たな画素を挿入する.
また一定量以上の拡大を行う場合は,画像上重要な部分がシームとして複製されてオブ
ジェクトの構造を壊すことを避けるために,一定量(提案法では拡大前の画像サイズの 30
%)で拡大処理を一度打ち切り,拡大された画像に対して再び拡大処理を行う.以上によ
り,提案法を用いた画像拡大を行う(図 6.5 参照).
6.4 シミュレーションおよび考察
提案法の有効性を示すために,スケーリング手法,Avidan らのシームカービング手
法 [92] を改良したいくつかの従来法,提案法を用いて画像をリサイズし,結果を比較し
た.従来法としては,Rubinstein ら [93],Han ら [97],Cho ら [100] の手法を用いた.
シミュレーション用プログラムの実装には Matlab を用いた.リサイズは,図 2.7 に示し
た 24 枚の画像の幅を半分に縮小する処理とした.また,リサイズ精度の客観的な評価指
標として,2.2.5 項で述べた BDW 距離と最大 BDW 距離を用いた.BDW 距離はリサイ
ズ画像全体の平均ひずみ,最大 BDW 距離はリサイズ画像内の最大ひずみを表す指標であ
72
(a) 原画像
図 6.5
(b) 従来法
(c) 提案法
原画像 (a) の横幅を従来法 (b) と提案法 (c) を用いて 2 倍に拡大した結果.
り,距離が短いほどひずみが少ないリサイズ結果であることの目安となる.
BDW 距離と最大 BDW 距離の結果をそれぞれ表 6.1,表 6.2 に示す.これらの表に示
されるように,均一に画像をひずませるスケーリングは,極端なひずみが発生しないため
最大 BDW 距離は比較的短いが,BDW 距離は長い場合が多い.一方でシームカービング
をベースとしたリサイズ手法は,ひずみの発生を全体的に抑えたリサイズが行えている.
しかし,リサイズによる極端なひずみが発生することも多く,スケーリングに比べ最大
BDW 距離が長い場合も見られる.そのような中でも提案法は,他の手法に比べ,多くの
画像において BDW 距離および最大 BDW 距離が短い.
次に,いくつかの画像のリサイズ結果から,提案法が有効に働く場合とそうでない場
合について考察を行う.図 6.6,6.7,6.8,6.9,6.10,6.11 に,リサイズ結果の一部を示
す.提案法は原画像の持つ接続関係を維持しようとするため,特にエッジのように隣接画
素との輝度差分が大きな領域において,他の手法に比べひずみの少なさが目立つ.提案法
を用いた画像 (21) のリサイズ結果(図 6.6)を見ると,画像全体にわたる複数の線は縮小
されているが,他の手法と比べ大きなひずみとして表れていない.これは,線の一部のみ
を縮小し続けようとすると多くの統合エネルギーが必要となり,エネルギーを最小に抑え
るために,結果的にほぼ均一に縮小されたためであると考えられる.図 6.7 に示されるよ
うに,画像 (13) におけるシームカービングをベースとした他の手法のリサイズ結果では,
画像中央の人物の背面が右下下がりから左下下がりに変化するという,視覚的な違和感が
強いひずみが表れた.一方で提案法は,そのような極端な変化が表れないリサイズ画像を
生成した.これは,エッジの方向を極端に変える縮小は,その統合エネルギーが非常に大
きくなるため,そのような縮小が抑制されるためであると考えられる.人間の視覚はエッ
ジ領域に敏感であるため,エッジ領域の接続関係の変化は視覚的な違和感に繋がりやすい
と考えられる.提案法は,特にエッジ領域について他の手法に比べひずみの少ないリサイ
ズが可能であるため,視覚的な違和感を抑えたリサイズが行えている.
しかし提案法において,目立つひずみが発生する場合もみられた.画像 (2) のリサイズ
結果(図 6.10)に見られるように,シームカービングをベースとしたリサイズ手法ではひ
ずみが多く生じ,スケーリングが最も短い BDW 距離となった.これは,細かな輝度変化
73
表 6.1
BDW 距離 [10−2 ]
Bi-cubic
[93]
[97]
[100]
提案法
(1)
0.276(5)
0.167(4)
0.152(3)
0.136(2)
0.124(1)
(2)
0.363(1)
0.485(5)
0.458(4)
0.396(3)
0.386(2)
(3)
0.810(5)
0.762(4)
0.623(3)
0.385(1)
0.496(2)
(4)
0.627(4)
0.778(5)
0.623(3)
0.511(1)
0.523(2)
(5)
0.446(5)
0.264(3)
0.268(4)
0.251(2)
0.224(1)
(6)
0.292(3)
0.415(5)
0.356(4)
0.181(2)
0.176(1)
(7)
0.369(5)
0.336(4)
0.236(3)
0.223(1)
0.227(2)
(8)
0.669(3)
1.35(5)
0.788(4)
0.519(1)
0.571(2)
(9)
0.471(5)
0.275(4)
0.239(3)
0.214(2)
0.209(1)
(10)
1.77(5)
1.66(3)
1.76(4)
1.62(2)
1.56(1)
(11)
0.885(5)
0.866(4)
0.832(2)
0.861(3)
0.779(1)
(12)
0.436(5)
0.352(4)
0.341(2)
0.341(2)
0.331(1)
(13)
0.349(4)
0.357(5)
0.303(3)
0.273(2)
0.250(1)
(14)
0.812(2)
0.968(5)
0.966(4)
0.895(3)
0.778(1)
(15)
0.694(5)
0.367(3)
0.357(2)
0.408(4)
0.336(1)
(16)
0.454(5)
0.399(4)
0.365(3)
0.349(2)
0.311(1)
(17)
0.0934(5)
0.0718(4)
0.0574(2)
0.0581(3)
0.0373(1)
(18)
0.315(5)
0.129(1)
0.151(2)
0.159(4)
0.154(3)
(19)
0.514(2)
0.957(5)
0.717(4)
0.690(3)
0.455(1)
(20)
0.424(5)
0.173(1)
0.193(2)
0.241(4)
0.197(3)
(21)
0.694(5)
0.458(1)
0.513(2)
0.530(4)
0.517(3)
(22)
0.984(5)
0.845(3)
0.863(4)
0.822(1)
0.828(2)
(23)
0.718(4)
0.761(5)
0.628(3)
0.584(2)
0.575(1)
(24)
1.22(5)
0.960(1)
1.16(4)
1.12(3)
1.03(2)
を持つ局所的な領域の影響であると考えられる.大域的な構造を保持した方がひずみは抑
えられるが,エネルギーが局所的な構造から定義されているため,局所的なひずみを抑え
ることを優先し,大域的なひずみとなって表れた.また,画像 (18) における提案法のリ
サイズ結果(図 6.10)では,不要な背景領域の縮小量が少なく,重要領域である前景の
人物をある程度削除している.画像 (18) の背景のように細かな変化が続く領域では,統
合による接続関係のずれにより統合エネルギーが増加するため,大幅な縮小が起こりにく
い.先ほどの例と同様に,局所的な構造の維持が優先されたため,ひずみとなって表れた
と考えられる.大域的な構造や接続関係を考慮することで,これらのひずみを抑えたリサ
74
表 6.2
最大 BDW 距離 [10−1 ]
Bi-cubic
[93]
[97]
[100]
提案法
(1)
1.18(5)
0.919(4)
0.422(1)
0.523(3)
0.422(1)
(2)
0.968(1)
1.44(4)
1.56(5)
1.14(3)
1.02(2)
(3)
1.78(3)
2.80(4)
2.82(5)
1.76(2)
1.54(1)
(4)
0.942(2)
1.79(5)
1.29(4)
1.08(3)
0.935(1)
(5)
1.37(3)
1.39(4)
1.41(5)
1.15(2)
0.861(1)
(6)
0.709(1)
1.82(5)
1.34(4)
1.28(3)
1.07(2)
(7)
1.11(4)
2.06(5)
0.785(3)
0.569(2)
0.444(1)
(8)
1.76(1)
3.13(5)
2.56(4)
2.18(3)
1.84(2)
(9)
1.16(5)
1.12(4)
0.955(3)
0.689(2)
0.556(1)
(10)
2.00(3)
2.52(5)
2.18(4)
1.96(2)
1.55(1)
(11)
1.61(2)
3.15(5)
1.73(3)
2.34(4)
1.49(1)
(12)
1.27(1)
1.97(5)
1.81(3)
1.91(4)
1.35(2)
(13)
1.29(2)
2.00(5)
1.62(4)
1.50(3)
1.18(1)
(14)
2.35(1)
3.99(4)
3.84(3)
4.22(5)
3.16(2)
(15)
3.35(5)
3.05(4)
1.65(2)
2.42(3)
1.64(1)
(16)
1.16(5)
0.839(4)
0.723(3)
0.661(2)
0.519(1)
(17)
1.01(4)
1.15(5)
0.459(2)
0.559(3)
0.264(1)
(18)
1.42(5)
0.502(1)
0.514(2)
0.736(4)
0.526(3)
(19)
1.37(3)
2.38(5)
1.17(2)
1.63(4)
0.977(1)
(20)
0.917(3)
1.24(5)
0.778(2)
1.00(4)
0.621(1)
(21)
1.31(4)
1.44(5)
1.19(2)
1.24(3)
1.07(1)
(22)
1.90(3)
2.26(5)
1.90(3)
1.31(1)
1.32(2)
(23)
1.59(3)
1.97(5)
1.75(4)
1.29(2)
1.05(1)
(24)
1.50(2)
2.06(5)
1.54(3)
1.57(4)
1.32(1)
イズが行えると考えられ,これが今後の課題である.
6.5 まとめ
本章では,シームマージングと呼ばれる新たなリサイズ手法を提案し,これを用いて画
像の構造を保持したリサイズが行えることを示した.シームマージングは隣り合う画素を
統合することにより画像幅を縮小する.また,画素の接続関係を隣接画素間の輝度差で定
義し,原画像に対して最も接続関係の変化が少ない統合の組み合わせを求めることによ
75
り,統合する画素を決定する.提案法を用いることで,従来法に比べ,ひずみの少ないリ
サイズ画像が得られた.さらに本論文では,接続関係により定まるエネルギーの逐次的解
法,動的計画法を用いた最適シームの計算方法および提案法を用いた画像拡大手法を示
した.
76
原画像
手法 [93]
スケーリング
手法 [97]
図 6.6
手法 [100]
各手法を用いたリサイズ結果の比較.使用画像は (21).
原画像
手法 [93]
図 6.7
提案法
スケーリング
手法 [97]
手法 [100]
提案法
各手法を用いたリサイズ結果の比較.使用画像は (13).
77
原画像
手法 [93]
スケーリング
手法 [97]
図 6.8
手法 [100]
各手法を用いたリサイズ結果の比較.使用画像は (11).
原画像
手法 [93]
提案法
スケーリング
手法 [97]
手法 [100]
提案法
図 6.9 各手法を用いたリサイズ結果の比較.使用画像は (5).
78
原画像
手法 [93]
スケーリング
手法 [97]
図 6.10
手法 [100]
各手法を用いたリサイズ結果の比較.使用画像は (2).
原画像
手法 [93]
提案法
スケーリング
手法 [97]
手法 [100]
提案法
図 6.11 各手法を用いたリサイズ結果の比較.使用画像は (18).
79
第7章
結論
本論文では,画像拡大法およびリサイズ技術の中のシームカービングを用いた画像リサ
イズに焦点を当て,これらの問題点を明らかにするとともに,その解決策を提案した.本
章ではそれらを総括すると共に,提案法における問題点や将来の展望について述べる.
画像拡大法について
バイリニア補間法やバイキュービック補間法などを用いた画像拡大では,ぼけやアーチ
ファクトの発生が問題となっていた.この問題を解決するために,近年視覚的に好ましい
拡大画像を得るための手法が数多く提案されている.これらの手法の多くはエッジの方向
性や画素の構造を利用することで拡大画像を得ている.しかし,バイキュービック法など
で生じるものとは異なるアーチファクトの発生や計算コストの高さが問題となっていた.
そこで 3 章において,これらの問題を解決するための新たな画素補間法を用いた画像拡大
手法を提案した.提案法は,超解像処理でしばしば用いられる観測モデルに基づいて,拡
大画像を推定する手法である.また,画像拡大においてエッジが滑らかに構成されるよう
にするために,Edge-Directed Smoothness Filter と呼ばれるエッジ方向の滑らかさを測
るためのフィルタを導入し,これを拡大画像の制約条件として用いた.提案法を用いるこ
とで,従来法に比べアーチファクトの発生が少なく,エッジ方向に滑らかな画像をより高
速に得ることができた.
しかしながら,さらに解決すべき問題もある.本研究で新たに提案した手法は,整数倍
率の拡大のみを考慮した手法であるため,より自由度の高い任意倍率の拡大に拡張するこ
とが必要である.また本研究では拡大率が 2 倍の場合のみを扱ったが,3 倍以上の拡大率
についても,最適なパラメータの検討や有効性の検証を行うことが重要である.さらに,
提案法を含む多くの画像拡大手法では,より拡大率が大きい場合,例えば 10 倍以上の拡
大といった極端な拡大を行う場合には,多くのぼけやアーチファクトに悩まされる.より
実用的なリサイズ技術を実現するには,こういった問題に対しても解決に向けて研究を行
う必要がある.
80
シームカービングについて
画像をリサイズする際に,画像中の重要なオブジェクトが変形したり縮小したりする
と,視覚的な違和感を生じやすい.この問題を解決するために,近年コンテンツに対して
適応的にリサイズを行う手法が提案されている.その中でもシームカービングは質の高い
画像を生成することができる手法として注目を集めている.しかしシームカービングにお
ける解決すべき問題点として,計算コストの高さと画像中の構造が保持されにくいことが
挙げられる.シームカービングにおけるリサイズ処理の工程で,多くの計算コストを占め
る工程が,最適シームを探す工程である.また一度の処理で 1 画素分の画像幅しか削除す
ることができないため,削除する幅に相当する回数,この工程を繰り返す必要がある.そ
のため,リサイズ処理に時間が掛かる問題を抱えていた.また,従来のシームカービング
を用いたリサイズでは,直線などの構造が保持されず,視覚的に好ましくないひずみが発
生する場合が多く見られた.本研究では 4 章と 5 章において,計算コストの高さを解決す
るための二つのアプローチを述べた.4 章では,従来のシームカービングをブロックベー
スの処理に拡張した新たな手法を示した.提案法を用いることで,従来法と同程度の質の
画像をより高速に得ることができることを示した.5 章では,ウェーブレット変換領域上
でシームカービングを行う新たな手法を示した.提案法は,ウェーブレット変換のレベル
を適応的に変化させることで,発生するひずみを抑えた.またブロックベースシームカー
ビングと同様に,提案法を用いることで従来法と同程度の質の画像をより高速に得ること
ができることを示した.シームカービングにおいて画像中の構造が保持されにくい問題に
対しては,6 章で新たに提案したシームマージングを用いてこれを解決した.提案法は,
従来のシームカービングとは異なり,画素を統合する処理によって画像幅を縮める.提案
法におけるシーム選択のエネルギーとして,画素の接続関係の変化に応じて増加するエネ
ルギーを定義し,これを用いることで画像中の構造を保持したリサイズが可能となった.
4 章と 5 章で提案したシームカービングの高速化手法には,リサイズ結果や計算速度に
影響を及ぼすいくつかのパラメータがある.本研究内では,パラメータが及ぼす影響につ
いて検討を行い,手法の性能評価においては経験的に導いた最適なパラメータを用いた.
しかし,個々の画像に対する最適なパラメータは,画像の性質やリサイズ幅などによって
異なる.そのため,状況によって異なる最適なパラメータを自動で調整する手法を確立す
ることが,今後の検討課題である.6 章で新たに提案したシームマージングは,画像中の
構造を保持したリサイズを可能にした.しかし,リサイズの計算コストが従来のシーム
カービングに比べ高く,より計算コストを削減した手法が望まれる.この問題に対して
は,例えば 4 章や 5 章で提案した高速化手法のアプローチを応用することで,解決するこ
とが考えられる.
本論文で扱った課題は,デバイスの進化や映像の使用目的の多様化によって新たに発生
したものである.しかし,これからもデバイスの進化が続くことは容易に想像でき,そし
81
てそれに伴い新たな課題が現れるだろう.現在普及し始めた三次元ディスプレイには,こ
れまでのディスプレイとは異なる問題が生じている.透過ディスプレイや,ハイビジョン
を超える解像度を持つスーパーハイビジョンが普及した際には,これまでにはない新たな
課題が生じるだろう.また,古くは情報伝達に使われてきた映像情報も,科学技術の進歩
や生活の多様化により様々な目的で使われるようになっている.
このように画像を取り巻く環境は日々変化しており,新たな課題に対して一から解決策
を模索していては,社会の急激な変化に技術が追いつかなくなる恐れがある.そのため,
今後は画像生成問題を包括的に記述できるフレームワークの構築が重要になってくると考
えられる.この画像生成問題とは,画像のリサイズを含む,画像補正や画像合成などの多
岐にわたるものを指す.一つの枠組みの中で様々な問題を扱えるようにすることで,新た
な課題に対する最適な解を迅速に得ることができるようになるであろう.本研究で得られ
た新たな知見が,このフレームワークの構築に繋がり,持続可能な社会の発展の一助にな
ることを願って,本論文を結ぶ.
82
参考文献
[1] E. Meijering, “A chronology of interpolation: From ancient astronomy to modern signal and image processing,” Proc. IEEE, vol. 90, no. 3, pp. 319–342,
2002.
[2] O. Neugebauer, Astronomical Cuneiform Texts. Babylonian Ephemerides of the
Seleucid Period for the Motion of the Sun, the Moon and the Planets, London,
UK: Lund Humphries, 1955.
[3] O. Neugebauer, A History of Ancient Mathematical Astronomy, SpringerVerlag, 1975.
[4] G.J. Toomer, Hipparchus, vol. 15, 1978.
[5] H. H. Goldstine, A History of Numerical Analysis from the 16th through the 19th
Century, vol. 2 of Studies in the History of Mathematics and Physical Sciences,
Springer-Verlag, 1977.
[6] D. C. Fraser, Newton’s Interpolation Formulas, C. & E. Layton, London, 1927.
[7] E.T. Whittaker, “On the functions which are represented by the expansions of
the interpolation theory,” in Proc. the Royal Society of Edinburgh, 1915, vol. 35,
pp. 181–194.
[8] S. Rifman, “Digital rectification of erts multispectral imagery,” in Proc. Symp.
Significant Results Obtained from the ERTS-1, NASA SP-327, 1973, vol. 1, pp.
1131–1142.
[9] K. W. Simon, “Digital image reconstruction and resampling for geometric manipulation,” in Proc. IEEE Symp. Machine Processing of Remotely Sensed Data,
C. D. McGillem and D. B. Morrison, Eds., pp. 3A–1–3A–11. IEEE Press, New
York, NY, 1975.
[10] R. Bernstein, “Digital image processing of earth observation sensor data,” IBM
J. Res. Dev., vol. 20, no. 1, pp. 40–57, 1976.
[11] H. C. Andrews and C. L. Patterson, “Digital interpolation of discrete images,”
IEEE Trans. Comput., vol. 25, no. 2, pp. 196–202, 1976.
[12] H. S. Hou and H. C. Andrews, “Least squares image restoration using spline
basis functions,” IEEE Trans. Comput., vol. 26, no. 9, pp. 856–873, 1977.
83
[13] H. S. Hou and H. C. Andrews, “Cubic splines for image interpolation and
digital filtering,” IEEE Trans. Acoust., Speech, Signal Process., vol. 26, no. 6,
pp. 508–517, 1978.
[14] S.C. Park, M.K. Park, and M.G. KANG, “Super-resolution image reconstruction: A technical overview,” IEEE Signal Processing Magazine, vol. 20, no. 3,
pp. 21–36, 2003.
[15] T. Komatsu, K. Aizawa, T. Igarashi, and T. Saito, “Signal-processing based
method for acquiring very high resolution image with multiple cameras and its
theoretical analysis,” in Proc. IEE Communications, Speech and Vision, 1993,
vol. 140, pp. 19–25.
[16] S. Borman and R.L. Stevenson, “Super-resolution from image sequences - a
review,” in Proc. Midwest Symposium on Systems and Circuits, Washington,
DC, USA, 1998, MWSCAS ’98, pp. 374–, IEEE Computer Society.
[17] S. Chaudhuri, Super-Resolution Imaging, Kluwer Academic Publishers, Norwell,
MA, USA, 2001.
[18] N.R. Shah and A. Zakhor, “Resolution enhancement of color video sequences,”
IEEE Trans. Image Process., vol. 8, no. 6, pp. 879–885, 1999.
[19] N. Nguyen and P. Milanfar, “An efficient wavelet-based algorithm for image
superresolution,” in Proc. IEEE Int. Conf. Image Processing, 2000, vol. 2, pp.
351–354.
[20] S.P. Kim, N.K. Bose, and H.M. Valenzuela, “Recursive reconstruction of high
resolution image from noisy undersampled multiframes,” IEEE Trans. Acoust.,
Speech, Signal Process., vol. 38, no. 6, pp. 1013 – 1027, 1990.
[21] S.P. Kim and W.Y. Su, “Recursive high-resolution reconstruction of blurred
multiframe images,” IEEE Trans. Image Process., vol. 2, no. 4, pp. 534 – 539,
1993.
[22] N.K. Bose, H.C. Kim, and H.M. Valenzuela, “Recursive implementation of
total least squares algorithm for image reconstruction from noisy, undersampled
multiframes,” in Proc. IEEE Int. Conf. Acoustics, Speech and Signal Processing,
1993, pp. 269 – 272.
[23] S.H. Rhee and M.G. Kang, “Discrete cosine transform based regularized highresolution image reconstruction algorithm,” Opt. Eng., vol. 38, no. 8, pp. 1348
– 1356, 1999.
[24] M.C. Hong, M.G. Kang, and A.K. Katsaggelos, “An iterative weighted regularized algorithm for improving the resolution of video sequences,” in Proc. IEEE
Int. Conf. Image Processing, 1997, pp. 474–477.
[25] R.C. Hardie, K.J. Barnard, J.G. Bognar, E.E. Armstrong, and E.A. Watson,
84
“High-resolution image reconstruction from a sequence of rotated and translated
frames and its application to an infrared imaging system,” Opt. Eng., vol. 37,
no. 1, pp. 247 – 260, 1998.
[26] B.C. Tom and A.K. Katsaggelos, “Reconstruction of a high-resolution image
by simultaneous registration, restoration, and interpolation of low-resolution
images,” in Proc. IEEE Int. Conf. Image Processing, Washington, DC, USA,
1995, ICIP ’95, pp. 2539–, IEEE Computer Society.
[27] R.R. Schulz and R.L. Stevenson, “Extraction of high-resolution frames from
video sequences,” IEEE Trans. Image Process., vol. 5, no. 6, pp. 996 – 1011,
1996.
[28] R.C. Hardie, K.J. Barnard, and E.E. Armstrong, “Joint map registration and
high-resolution image estimation using a sequence of undersampled images,”
IEEE Trans. Image Process., vol. 6, no. 12, pp. 1621 – 1633, 1997.
[29] H. Stark and P. Oskoui, “High resolution image recovery from image-plane
arrays, using convex projections,” Journal of Optical Society America A, vol.
6, no. 11, pp. 1715 – 1726, 1989.
[30] A.M. Tekalp, M.K. Ozkan, and M.I. Sezan, “High-resolution image reconstruction from lower-resolution image sequences and space varying image restoration,” in Proc. IEEE Int. Conf. Acoustics, Speech and Signal Processing, 1992,
vol. 3, pp. 169 – 172.
[31] P.E. Eren, M.I. Sezan, and A.M. Tekalp, “Robust, object-based high-resolution
image reconstruction from low-resolution video,” IEEE Trans. Image Process.,
vol. 6, no. 10, pp. 1446 – 1451, 1997.
[32] A.J. Patti and Y. Altunbasak, “Artifact reduction for set theoretic super resolution image reconstruction with edge adaptive constraints and higher-order
interpolants,” IEEE Trans. Image Process., vol. 10, no. 1, pp. 179 – 186, 2001.
[33] B.C. Tom and A.K. Katsaggelos, “An iterative image registration technique
with an application to stereo vision,” in Proc. SPIE Conf. Visual Communications and Image Processing, 1996, pp. 674–679.
[34] M. Elad and A. Feuer, “Restoration of a single superresolution image from
several blurred, noisy, and undersampled measured images,” IEEE Trans. Image
Process., vol. 6, no. 12, pp. 1646 – 1658, 1997.
[35] M. Irani and S. Peleg, “Improving resolution by image registration,” CVGIP:
Graph. Models Image Process., vol. 53, no. 3, pp. 231–239, 1991.
[36] S. Mann and R.W. Picard, “Virtual bellows: Constructing high quality stills
from video,” in Proc. IEEE Int. Conf. Image Processing, 1994, pp. 13 – 16.
[37] M. Irani and S. Peleg, “Motion analysis for image enhancement: Resolution,
85
occlusion, and transparency,” Journal of Visual Communication and Image
Representation, vol. 4, no. 4, pp. 324–335, 1993.
[38] M. Elad and A. Feuer, “Superresolution restoration of an image sequence:
adaptive filtering approach,” IEEE Trans. Image Process., vol. 8, no. 3, pp. 387
– 395, 1999.
[39] D. Rajan and S. Chaudhuri, “An mrf-based approach to generation of superresolution images from blurred observations,” J. Math. Imaging Vis., vol. 16,
no. 1, pp. 5–15, 2002.
[40] D. Rajan and S. Chaudhuri, “Simultaneous estimation of super-resolved intensity and depth maps from low resolution defocused observations of a scene,” in
Proc. IEEE int. Conf. Computer Vision, 2001, pp. 113 – 118.
[41] N. Nguyen, P. Milanfar, and G. Golub, “A computationally efficient superresolution image reconstruction algorithm,” IEEE Trans. Image Process., vol. 10,
no. 4, pp. 573 – 583, 2001.
[42] M. Elad and Y. Hel-Or, “A fast super-resolution reconstruction algorithm for
pure translational motion and common space-invariant blur,” IEEE Trans.
Image Process., vol. 10, no. 8, pp. 1187 – 1193, 2001.
[43] ディジタル画像処理, CG-ARTS 協会, 2006.
[44] J. Allebach and P. W. Wong, “Edge-directed interpolation,” in Proc. IEEE Int.
Conf. Image Processing, 1996, vol. 3, pp. 707–710.
[45] K. Jensen and D. Anastassiou, “Subpixel edge localization and the interpolation
of still images,” IEEE Trans. Image Process., vol. 4, no. 3, pp. 285–295, 1995.
[46] X. Li and M. T. Orchard, “New edge-directed interpolation,” IEEE Trans.
Image Process., vol. 10, no. 10, pp. 1521–1527, 2001.
[47] X. Zhang and X. Wu, “Image interpolation by adaptive 2-d autoregressive
modeling and soft-decision estimation,” IEEE Trans. Image Process., vol. 17,
no. 6, pp. 887–896, 2008.
[48] V. R. Algazi, G. E. Ford, and R. Potharlanka, “Directional interpolation of
images based on visual properties and rank order filtering,” in Proc. IEEE Int.
Conf. Acoustics, Speech and Signal Processing, 1991, vol. 4, pp. 3005–3008.
[49] S. W. Lee and J. K. Paik, “Image interpolation using adaptive fast b-spline
filtering,” in Proc. IEEE Int. Conf. Acoustics, Speech and Signal Processing,
1993, vol. 5, pp. 177–180.
[50] J. E. Adams Jr, “Interactions between color plane interpolation and other image
processing functions in electronic photography,” in Proc. SPIE Cameras and
Systems for Electronic Photography and Scientific Imaging, 1995, vol. 2416, pp.
144–151.
86
[51] S. Carrato, G. Ramponi, and S. Marsi, “A simple edge-sensitive image interpolation filter,” in Proc. IEEE Int. Conf. Image Processing, 1996, vol. 3, pp.
711–714.
[52] B. Ayazifar and J. S. Lim, “Pel-adaptive model-based interpolation of spatially
subsampled images,” in Proc. IEEE Int. Conf. Acoustics, Speech and Signal
Processing, 1992, vol. 3, pp. 181–184.
[53] B. S. Morse and D. Schwartzwald, “Isophote-based interpolation,” in Proc.
IEEE Int. Conf. Image Processing, 1998, pp. 227–231.
[54] K. Ratakonda and N. Ahuja, “Pocs based adaptive image magnification,” in
Proc. IEEE Int. Conf. Image Processing, 1998, vol. 3, pp. 203–207.
[55] D. Calle and A. Montanvert, “Super-resolution inducing of an image,” in Proc.
IEEE Int. Conf. Image Processing, 1998, pp. 232–235.
[56] D. A. F. Florencio and R. W. Schafer, “Post-sampling aliasing control for natural images,” in Proc. IEEE Int. Conf. Acoustics, Speech and Signal Processing,
1995, pp. 893–896.
[57] F. Fekri, R.M. Mersereau, and R.W. Schafer, “A generalized interpolative vq
method for jointly optimal quantization and interpolation of images,” in Proc.
IEEE Int. Conf. Acoustics, Speech and Signal Processing, 1998, pp. 2657–2660.
[58] L. Zhang and X. Wu, “An edge guided image interpolation algorithm via directional filtering and data fusion,” IEEE Trans. Image Process., vol. 15, no. 8,
pp. 2226–2238, 2006.
[59] S. Dai, M. Han, Y. Wu, and Y. Gong, “Bilateral back-projection for single
image super resolution,” in Proc. IEEE Int. Conf. Multimedia and Expo., 2007,
pp. 1039–1042.
[60] M. Li and T. Q. Nguyen, “Markov random field model-based edge-directed
image interpolation,” IEEE Trans. Image Process., vol. 17, no. 7, pp. 1121–
1128, 2008.
[61] Q. Wang and R. K. Ward, “A new orientation-adaptive interpolation method,”
IEEE Trans. Image Process., vol. 16, no. 4, pp. 889–900, 2007.
[62] L. Zhang and X. Li, “Directional interpolation of noisy image,” in Proc. IEEE
Int. Conf. Image Processing, 2008, pp. 633–636.
[63] A. Gotchev, K. Egiazarian, J. Vesma, and T. Saramaki, “Edge-preserving image
resizing using modified b-splines,” in Proc. IEEE Int. Conf. Acoustics, Speech
and Signal Processing, 2001, pp. 1865–1868.
[64] W. Dong, L. Zhang, G. Shi, and X. Wu, “Nonlocal back-projection for adaptive
image enlargement,” in Proc. IEEE Int. Conf. Image Processing, Piscataway,
NJ, USA, 2009, ICIP’09, pp. 349–352, IEEE Press.
87
[65] D. Vaquero, M. Turk, K. Pulli, M. Tico, and N. Gelfand, “A survey of image
retargeting techniques,” in Proc. SPIE Applications of Digital Image Processing
XXXIII, 2010, vol. 7798.
[66] A. Shamir and O. Sorkine, “Visual media retargeting,” in SIGGRAPH ASIA
Courses, New York, NY, USA, 2009, pp. 1–13, ACM.
[67] B. Suh, H. Ling, B. B. Bederson, and D. W. Jacobs, “Automatic thumbnail
cropping and its effectiveness,” in Proc. the 16th annual ACM symp. User
interface software and technology, New York, NY, USA, 2003, UIST ’03, pp.
95–104, ACM.
[68] M. Ma and J. Guo, “Automatic image cropping for mobile device with built-in
camera,” in Proc. IEEE Consumer Communications and Networking Conference, 2004, pp. 710–711.
[69] M. Zhang, L. Zhang, Y. Sun, L. Feng, and W.-Y. Ma, “Auto cropping for
digital photographs.,” in Proc. IEEE int. Conf. Multimedia and Expo, 2005,
pp. 438–441.
[70] G. Ciocca, C. Cusano, F. Gasparini, and R.Schettini, “Self-adaptive image
cropping for small displays,” IEEE Trans. Consumer Electronics, vol. 53, no.
4, pp. 1622–1627, 2007.
[71] I. S. Amrutha, S. S. Shylaja, S. Natarajan, and K. N. Balasubramanya Murthy,
“A smart automatic thumbnail cropping based on attention driven regions of
interest extraction,” in Proc. the 2nd International Conference on Interaction
Sciences: Information Technology, Culture and Human, New York, NY, USA,
2009, ICIS ’09, pp. 957–962, ACM.
[72] M. Nishiyama, T. Okabe, Y. Sato, and I. Sato, “Sensation-based photo cropping,” in Proc. the 17th ACM international conference on Multimedia, New
York, NY, USA, 2009, MM ’09, pp. 669–672, ACM.
[73] Y. Ke, X. Tang, and F. Jing, “The design of high-level features for photo quality
assessment,” in Proc. IEEE Conf. Computer Vision and Pattern Recognition,
Washington, DC, USA, 2006, vol. 1, pp. 419–426, IEEE Computer Society.
[74] R. Datta, D. Joshi, J. Li, and J. Z. Wang, “Studying aesthetics in photographic
images using a computational approach,” in Proc. Euro. Conf. Computer Vision, 2006, pp. 7–13.
[75] A. Santella, M. Agrawala, D. DeCarlo, D. Salesin, and M. Cohen, “Gaze-based
interaction for semi-automatic photo cropping,” in Proc. the SIGCHI conference
on Human Factors in computing systems, New York, NY, USA, 2006, CHI ’06,
pp. 771–780, ACM.
[76] F. Liu and M. Gleicher, “Automatic image retargeting with fisheye-view warp-
88
ing,” in Proc. the 18th annual ACM symp. User interface software and technology, New York, NY, USA, 2005, UIST ’05, pp. 153–162, ACM.
[77] Y.-S. Wang, C.-L. Tai, O. Sorkine, and T.-Y. Lee, “Optimized scale-and-stretch
for image resizing,” ACM Trans. Graph., vol. 27, no. 5, pp. 118:1–118:8, 2008.
[78] Y. Guo, F. Liu, J. Shi, Z.-H. Zhou, and M. Gleicher, “Image retargeting using
mesh parametrization,” IEEE Trans. Multi., vol. 11, no. 5, pp. 856–867, 2009.
[79] R. Gal, O. Sorkine, and D. Cohen-Or, “Feature-aware texturing,” in Proc.
Eurographics Symposium on Rendering, 2006, pp. 297–303.
[80] L. Wolf, M. Guttmann, and D. Cohen-Or, “Non-homogeneous content-driven
video-retargeting,” in Proc. IEEE int. Conf. Computer Vision, 2007.
[81] S.-F. Wang and S.-H. Lai, “Fast structure-preserving image retargeting,” in
Proc. IEEE Int. Conf. Acoustics, Speech and Signal Processing, Washington,
DC, USA, 2009, ICASSP ’09, pp. 1049–1052, IEEE Computer Society.
[82] T. Ren, Y. Guo, G. Wu, and F. Zhang, “Constrained sampling for image
retargeting,” in Proc. IEEE int. Conf. Multimedia and Expo, 2008, pp. 1397–
1400.
[83] J.S. Kim, J.H. Kim, and C.S. Kim, “Adaptive image and video retargeting
technique based on fourier analysis,” in Proc. IEEE Conf. Computer Vision
and Pattern Recognition, 2009, pp. 1730–1737.
[84] T. Ren, Y. Liu, and G. Wu, “Image retargeting based on global energy optimization,” in Proc. IEEE int. Conf. Multimedia and Expo, Piscataway, NJ,
USA, 2009, ICME’09, pp. 406–409, IEEE Press.
[85] M. Brand, “Image and video retargetting by darting,” in Proc. the 6th International Conference on Image Analysis and Recognition, Berlin, Heidelberg, 2009,
ICIAR ’09, pp. 33–42, Springer-Verlag.
[86] J.-H. Kim, J.-S. Kim, and C.-S. Kim, “Image and video retargeting using
adaptive scaling function,” in Proc. European Signal Processing Conference,
2010.
[87] D. Pavic and L. Kobbelt, “Two-colored pixels,” Comput. Graph. Forum, vol.
29, no. 2, pp. 743–752, 2010.
[88] G.-X. Zhang, M.-M. Cheng, S.-M. Hu, and R. R. Martin, “A shape-preserving
approach to image resizing,” Comput. Graph. Forum, vol. 28, no. 7, pp. 1897–
1906, 2009.
[89] T. Ren, Y. Liu, and G. Wu, “Image retargeting using multi-map constrained
region warping,” in Proc. the 17th ACM international conference on Multimedia,
New York, NY, USA, 2009, MM ’09, pp. 853–856, ACM.
[90] Y. Jin, L. Liu, and Q. Wu, “Nonhomogeneous scaling optimization for realtime
89
image resizing,” The Visual Computer, vol. 26, no. 6-8, pp. 769–778, 2010.
[91] P.-Y. Laffont, J. Y. Jun, C. Wolf, Y.-W. Tai, K. Idrissi, G. Drettakis, and
S.-E. Yoon, “Interactive content-aware zooming,” in Proc. Graphics Interface,
Toronto, Ont., Canada, Canada, 2010, GI ’10, pp. 79–87, Canadian Information
Processing Society.
[92] S. Avidan and A. Shamir, “Seam carving for content-aware image resizing,”
ACM Trans. Graph., vol. 26, no. 3, pp. 10, 2007.
[93] M. Rubinstein, A. Shamir, and S. Avidan, “Improved seam carving for video
retargeting,” ACM Trans. Graph., vol. 27, no. 3, pp. 1–9, 2008.
[94] A. Shamir and S. Avidan, “Seam carving for media retargeting,” Communications of the ACM, vol. 52, no. 1, pp. 77–85, 2009.
[95] M. Rubinstein, A. Shamir, and S. Avidan, “Multi-operator media retargeting,”
ACM Trans. Graph., vol. 28, no. 3, pp. 1–11, 2009.
[96] S. Goferman, L. Zelnik-Manor, and A. Tal, “Context-aware saliency detection,”
in Proc. IEEE Conf. Computer Vision and Pattern Recognition, 2010, pp. 2376–
2383.
[97] J.W. Han, K.S. Choi, T.S. Wang, S.H. Cheon, and S.J. Ko, “Wavelet based
seam carving for content-aware image resizing,” in Proc. IEEE Int. Conf. Image
Processing, 2009, pp. 345–348.
[98] W. Dong, N. Zhou, J.C. Paul, and X. Zhang, “Optimized image resizing using
seam carving and scaling,” ACM Trans. Graph., vol. 28, no. 5, pp. 1–10, 2009.
[99] R. Achanta and S. Susstrunk, “Saliency detection for content-aware image
resizing,” in Proc. IEEE Int. Conf. Image Processing, 2009, pp. 1005–1008.
[100] S. Cho, H. Choi, Y. Matsushita, and S. Lee, “Image retargeting using importance diffusion,” in Proc. IEEE Int. Conf. Image Processing, 2009, pp. 977–980.
[101] H. C. Andrews and B. R. Hunt, Digital Image Restoration, Prentice Hall
Professional Technical Reference, 1977.
[102] E. Stiefel M. R. Hestenes, “Methods of conjugate gradients for solving linear
systems,” Journal of Research of the National Bureau of Standards, vol. 49, no.
6, pp. 409–436, 1952.
[103] J.A. Meijerink and H.A. van der Vorst, “An iterative solution method for linear
systems of which the coefficient matrix is a symmetric m-matrix,” Mathematics
of Computation, vol. 31, no. 137, pp. 148–162, 1977.
[104] C. C. Paige and M. A. Saunders, “Lsqr: An algorithm for sparse linear equations
and sparse least squares,” ACM Trans. Math. Softw., vol. 8, no. 1, pp. 43–71,
1982.
[105] Y. Saad and M. H. Schultz, “Gmres: A generalized minimal residual algorithm
90
for solving nonsymmetric linear systems,” SIAM Journal on Scientific and
Statistical Computing, vol. 7, no. 3, pp. 856–869, 1986.
[106] H. A. van der Vorst, “Bi-cgstab: A fast and smoothly converging variant of bi-cg
for the solution of nonsymmetric linear systems,” SIAM Journal on Scientific
and Statistical Computing, vol. 13, no. 2, pp. 631–644, 1992.
[107] G. E. Forsythe, “Tentative classification of methods and bibliography on solving
systems of linear equations,” in Journal of Research of the National Bureau of
Standards, number 28 in Applied Mathematics Series, pp. 1–28. 1953.
[108] J. R. Westlake, A Handbook of Numerical Matrix Inversion and Solution of
Linear Equations, 1968.
[109] J. W. Hwang and H. S. Lee, “Adaptive image interpolation based on local
gradient features,” IEEE Trans. Sig. Process. Letters, vol. 11, no. 3, pp. 359–
362, 2004.
[110] L. Itti, C. Koch, and E. Niebur, “A model of saliency-based visual attention for
rapid scene analysis,” IEEE Trans. Pattern Analysis and Machine Intelligence,
vol. 20, no. 11, pp. 1254–1259, 1998.
[111] C. Harris and M. Stephens, “A combined corner and edge detector,” in Proc.
4th Alvey Vision Conf., 1988.
[112] N. Dalal and B. Triggs, “Histograms of oriented gradients for human detection,”
in Proc. IEEE Conf. Computer Vision and Pattern Recognition, 2005, pp. 886–
893.
91
謝辞
本研究は,著者が慶應義塾大学大学院 理工学研究科 博士課程に在籍中行ったものであ
り,本研究を進めるにあたり,ご指導,ご助言を厚く賜った指導教授及び本論文の主査で
ある慶應義塾大学 理工学部 池原 雅章 教授に深謝の意を表します.
ご多忙な中,本論文の副査を快く引き受けてくださり,ご丁寧なご助言を賜りました慶
應義塾大学 理工学部 岡田 英史 教授,萩原 将文 教授,青木 義満 准教授に深謝申し上げ
ます.
また本研究の一部は,慶應義塾大学大学院 情報・電気・電子分野 グローバル COE プ
ログラム “アクセス空間支援基盤技術の高度国際連携” の助成のもとに行われたものであ
り,この援助なくしては実を結ぶことができませんでした.この場を借りて,本グローバ
ル COE プログラム拠点リーダー 大西 公平 教授,グループリーダー 斎藤 英雄 教授,山
口 正泰 特別研究准教授を始めとする事業推進担当者の皆様,リサーチ・アシスタントの
皆様,及び関係者の皆様に深く感謝致します.
更に,公私にわたり大変有益な御指導,ご助言に御尽力していただいた信州大学 工学部
白井 啓一郎 助教,宇都宮大学 工学部 田中 雄一 助教,日本放送協会 岩村 俊輔 氏,日本
電信電話株式会社 京地 清介 氏,そして慶應義塾大学 理工学部 久保 亮吾 助教,同研究
室 博士研究員 鈴木 大三 氏,博士課程 吉田 太一 氏を始めとする池原研究室の全ての諸
兄に厚く御礼申し上げます.
本論文では,Flickr(http://www.flickr.com/) においてクリエイティブ・コモンズ・ライ
センスに基づいて公開されている画像をシミュレーションに用いました.画像を公開して
下さった以下の方々に感謝致します.Aaron Landry (Flower Cupcakes), alles-schlumpf
(camels,ring), betta design (Taj Mahal), chelmsfordblue (hockey), dmondark (Decorative vases), fedfil (Rouen), gwenael.piaser (two little tourists), Ingy The Wingy (soccer), joiseyshowaa (windows), Jungle Boy (girls), leftymgp (Mocking Bird), looseends
(windows with lace curtains), lrargerich (abbey hallway), macropoulos (butterfly),
mandala (havasupai children), moriza (chicken), Naixn (boy and girl), Paraflyer (parrots,one parrot), pilotkip (balloons), Steve took it (lake), Stuck in Customs (car),
toshi (cup), Vidiot (buildings). (敬称略)
92
ダウンロード

補間とシームカービングを用いた 画像のリサイズに関する研究