平成22年11月15日(月)
東京工科大学
コンピュータサイエンス学部
亀田弘之
今後学ぶ内容の紹介
 日本語を対象とする処理
 統語解析プログラム(デモ)
 形態素解析+統語解析プログラム(デモ)
 未知語とその処理
 意味処理解析の高度化
 英文を対象とする統語解析プログラム(デモ)
 統語規則の自動獲得
 ILP(Inductive Logic Programming)
 その他の高度化
 Paraconsistent logic
2
さて、デモを見ていきましょう!
 今までの講義を思い出しながらデモを見てください。
 今までの復習の意味合いもあります。
 こんな簡単なプログラムでこんなことができるんだ、
ということを感じてください。
=>自分にもできそうだ! と是非感じてください。
 ポイント:
 形式文法(統語規則・単語辞書)
 Prolog言語(Prolog言語形式)
 (日本語と英語の場合の違い)
3
未知語獲得システム
UWAS-1 の開発
亀田弘之(東京工科大学)
久保村千明(山野美容芸術短期大学)
2008年5月に電子情報通信学会思考と言語
研究会で発表した資料
本日の内容
1.
2.
3.
4.
5.
はじめに
未知語について
未知語処理法について
未知語獲得システムについて
おわりに
5
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
6
研究の背景
言語は思考を支える主要な要素である。
 思考過程解明のためには、言語の側面か
ら解明してはどうだろうか?
 人間における言語理解過程のモデル化と
その工学的応用
 形態素解析は自然言語処理の第一関門
「形態素解析なしの言語処理はなし」

7
新聞記事

節水都市
西日本の空梅雨は、田植えができないなど
の農作物の被害にとどまらず、市民生活を
脅かし始めた。四年前、二百八十七日という
給水制限記録を作った福岡市は、六月の雨
量が、気象台始まって以来の最低となった。
1982年7月8日 朝日新聞夕刊記事より
8
新聞記事

節水都市
西日本の空梅雨は、田植えができないなど
の農作物の被害にとどまらず、市民生活を
脅かし始めた。四年前、二百八十七日という
給水制限記録を作った福岡市は、六月の雨
量が、気象台始まって以来の最低となった。
これを形態素解析すると…
1982年7月8日 朝日新聞夕刊記事より
9
新聞記事

節水/都市
西日本/の/空/梅雨/は/、/田植え/が/でき/な
い/など/の/農作物/の/被害/に/とどまら/ず/、
/市民/生活/を/脅かし/始め/た/。/四/年/前/、/
二/百/八十七/日/とい/う/給水/制限/記録/を/
つくっ/た/福/岡/市/は/、/六月/の/雨量/が/、/
気象台/始まっ/て/以来/の/最低/となっ/た。
解析法:最長一致法+α
辞書:新明解国語辞典+α
1982年7月8日 朝日新聞夕刊記事より
10
形態素解析における問題点

未知語の処理が適切にできない
通常の国語辞典は人間用であり、人間にとって
容易に推察できる単語は記載されていない。
例:四十女 (「伊豆の踊り子」)
 コンピュータにおける自然言語処理での「単語」
の定義問題



処理単位と単語との関係
自律的学習能力を持った適応型手法の必要
性(学習能力を備え持つ形態素解析システ
ム)
11
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
12
新聞記事
節水/都市
 西日本/の/空/梅雨/は/、/田植え/が/でき/な
い/など/の/農作物/の/被害/に/とどまら/ず/、
/市民/生活/を/脅かし/始め/た/。/四/年/前/、/
二/百/八十七/日/とい/う/給水/制限/記録/を/
つくっ/た/福/岡/市/は/、/六月/の/雨量/が/、/
気象台/始まっ/て/以来/の/最低/となっ/た。

1982年7月8日 朝日新聞夕刊記事より
13
ある自己紹介の例
学籍番号XXXの山田です。
 出身はXXXです。
 モンハンも好きですが、カクゲの方が得意
ですので、誰か一緒にやりませんか。
 宜しくお願いします。

大学1年生の授業での自己紹介を参考に作成
14
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
15
ある授業でのアンケート調査

教科書の指定部分を読んで、専門用語と思
われる用語を抜き出し、以下の3つに分類し
なさい。
分類1:よく知っている用語
(意味を説明することができる)
 分類2:一応知っている、あるいは、習っているが
用語の意味を説明できない。
 分類3:知らない用語
(いままで見たことのない用語)

16
ある学生の例
分類1:フローチャート,クラス,オブジェク
ト,
メソッド,インスタンス など
 分類2:UML,モデリング
 分類3:DFD,E-R,デファクトスタンダード,
MDA,ユースケース,汎化 など

17
教育分野での考え方
レベル0:知らない。
 レベル1:用語は聞いたことがある。
 レベル2:概念の説明ができる(理解してい
る)。
 レベル3:与えられた条件下において、
知識を使って演習することができる。
 レベル4:知識を応用することができる。
 レベル5:実世界における問題解決に際して、
実践的ソフトウェア教育コンソーシアム、
適切な知識を選び適用できる。
「教育デザイン入門」より

18
教育分野での考え方
レベル0:知らない。
 レベル1:用語は聞いたことがある。
 レベル2:概念の説明ができる(理解してい
る)。
 レベル3:与えられた条件下において、
知識を使って演習することができる。
 レベル4:知識を応用することができる。
 レベル5:実世界における問題解決に際して、
実践的ソフトウェア教育コンソーシアム、
適切な知識を選び適用できる。
「教育デザイン入門」より

19
未知語の定義*
人間にとっての未知語
 機械にとっての未知語

*:藤崎・亀田:人間の言語理解過程に立脚した自然言語処理方式の研究
-人間における語句の認知過程の観測・分析とモデル化、
および人間における自然言語処理過程の総合的モデル化,
特定研究成果報告書(1987).
20
人間にとっての未知語

発話者(人間やコンピュータ)が発した発話
の中に含まれる単語の内、聞き手(人間)に
とって初見の単語のこと。
(ただし、人間には忘却の特性があり、何が
初見であるか聞き手の主観に依存する、と
いう問題点がある。)
共有結合?
ここの部分が共有結合
になっています。
21
機械にとっての未知語

:ユーザ(人間)が発した発話(文字言語や
音声言語での文)に含まれる単語のうち、コ
ンピュータ(聞き手)にとって初見の(すなわ
ち、システム単語辞書に未登録な)単語の
こと。
最近カクゲやってない
なぁ~。やらない?
カクゲ?
22
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
23
未知語の分類

何のために?
24
未知語の分類

分類の基本的考え方
処理することが主目的
 処理目的の観点*

言語学的分類
 人間における処理の観点からの分類
 コンピュータ処理の観点からの分類

*:亀田・藤崎,人間の言語処理における語句認知過程に関する実験的検
討,
日本認知科学会第4回大会(1987).
25
未知語の分類設定
第1種の未知語
 第2種の未知語
 第3種の未知語

26
未知語の分類設定
第1種の未知語(異表記同義語)
 第2種の未知語(複合語)
 第3種の未知語(その他)

27
第1種の未知語

定義:
単語自体は辞書に登録されているにもかか
わらず、 表記が辞書のものと異なるため
に、辞書検索に失敗する単語(異表記同義
語)のこと。
異表記同義語とでもいうべき単語。
例:ギリシア
28
第2種の未知語

定義:
単語の各構成要素は辞書に登録されてい
るが、その単語自体は辞書に登録されてい
ない単語(既知語を用いて造語された複合
語)のこと。
例:見学旅行
29
第3種の未知語

定義:
単語の構成要素として、単語辞書に登録さ
れていないものが含まれるもの。
例:ボリスパンキン, IPアドレス
30
各種未知語の例

第1種:
ギリシャ ⇔ ギリシア
 組み込み ⇔ 組込み
 行なう ⇔ 行う
など


第2種:


北海道旅行 など
第3種:

カクゲ など
種類ごとに処理方法が
変わってくる!
31
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
32
未知語処理の基本的な考え方

困難は分割して対処する。


より上位水準の情報・知識を利用する。


処理対象の分類・処理モードの導入
例:未知語処理を、統語解析までの枠組みで
行う。
処理もメタ知識として扱えるようにする。

Prolog言語で知識と処理とを記述する
論理的制約のみで可能な限り処理する。
 処理失敗をトリガーとして処理を変化させ
る。

33
未知語処理とは
1.
2.
3.
4.
5.
6.
7.
未知語存在の検知
未知語候補文字列の切り出し
語内構造の分析
語の品詞推測
語の意味推測
推測結果の整合性の確認
未知語の辞書登録
日本語を対象とする
未知語処理プロセス
34
各種未知語の例

第1種:
ギリシャ ⇔ ギリシア
 組み込み ⇔ 組込み
 行なう ⇔ 行う
など


第2種:


北海道旅行 など
第3種:

カクゲ など
種類ごとに処理方法が
変わってくる!
35
発表の流れ
未知語処理システム
未知語処理
未知語の分類
未知語の定義
未知語の事例
36
UWAS-1の概要
プログラム
(対象の処理に関する知識)
獲得のメタ知識
trigger
単文
文章理解
(処理エンジン)
内部
表現
trigger
単語辞書
(対象自体に関する知識)
未知語獲得
37
38
未知語処理システムの処理の流れ
1.
テキスト(文字列)Tの読み込み
1.
2.
3.
4.
5.
6.
テキストT = m1m2m3…mn
処理対象文字列の先頭に来る可能性のある品
詞posを推定(統語規則より)
統語規則集を参照して、左回帰優先分析
単語候補文字列 w = mn1…mnk の切り出し
単語候補w(品詞pos)の辞書照会
辞書に登録されているならば、wは既知語。
そうでなければ、wは未知語候補。
39
7.
文字列wが既知語のとき

8.
Tーw を新たなTとして、手順1へ。
文字列wが未知語のとき

第2種の未知語の可能性を探る


第1種の未知語の可能性を探る


第1種の未知語の可能性があれば、既知語とみなして手順7
へ。
第3種の未知語の可能性を探る

9.
第2種の未知語の可能性があれば、既知語とみなして手順7
へ。
第3種の未知語の可能性があれば、既知語とみなして手順7
へ。
文字列wが未知語とはなりえないならば、
40
文を文字列として読
み込む
(不正入力)
文法規則による先頭
単語品詞の推定
(非文)
単語候補切り出 し
単語辞書検索
先頭単語の文文字
列からの削 除
処理完了の判定
未知語の辞書登録
解析結果表示
第1種未知語処理
第2種未知語処理
第3種未知語処理
(当該処理部のバグ)
41
未知語処理システムの概要
未知語は頻繁に現れるものではない。
 通常は未知語なしで動作させ、処理がうまく
行かないとき、その原因は「未知語が存在
するからだ!」と考える。

42
処理モード
処理モード
未知語
未知統語
規則
モード1
無
無
モード2
有
無
モード3
無
有
モード4
有
有
43
処理モード
処理モード
未知語
未知統語
規則
モード1
無
無
モード2
有
無
×
モード4
×
無
有
有
有
モード3
◎
44
動作例
45
問題点
処理効率
 統語規則の貧弱さ
 誤処理への対応
 意味推定機能 など

46
問題点
処理効率
 統語規則の貧弱さ



誤処理への対応


矛盾を含む知識の運用
意味推定機能


機械学習手法の利用(帰納論理プログラミング)
意味記述(Semantic Web)
応用システムの作成
47
おわりに
48
(参考情報)

知識獲得システムの設計パタン
49
情報処理の構成
50
知識システムの構成
51
知識獲得システムの構成
52
ダウンロード

講義資料 - 思考と言語研究室