Vol.15 No.5 (2000/09) 帰納論理プログラミング


私のブックマーク

帰納論理プログラミング

1.はじめに

帰納論理プログラミング (Inductive Logic Programming:以下ILPと略称)との出会いは、
湾岸戦争の終結間もない頃であった。ちょうどフロリダでのIEEEの人工知能応用会議の後、
強引に古川康一氏(慶応義塾大学SFC教授)に誘われ、ニューヨーク経由でポルトガルのポルト
に近い村で開催されたILPワークショップに出席した。その時、日本からの参加者は、筆者、
古川氏、そして、東京工業大学教授の沼尾正行氏であった。この会議で私はILPの可能性を
知り、そして、強いインパクトを受けた。その頃、ちょうど制約論理プログラミングの次の展開を考えていた時であり、これが引き金となってILPを次のテーマとし、参入することを
決めたのである。この時のワークショップの流れをもとにして作られたのがILPNET [1]である。

2.研究ネットワーク

Web上には、ILPの情報を公開する2大ネットワークグループがある。それらは、欧州主体の
ILP研究ネットワークであるILPNET [1] (Inductive Logic Programming European Scientific
Network)と機械学習、知識発見、データマイニングなどをテーマとするMLnet [2] (The
Machine Learning network Online Information Service)である。

ILPNET [1]は、1993年から1996年までの公開されていたが、現在は、ILPnet2 [3]というサ
イト名で情報を公開している。このサイトは、Ivan Bratko[4]の弟子で注目すべき若手研究者であるSaso Dzeroski [5]によりまとめられている。
このサイトの役割は、ネットワークによるILPの研究促進とILPにおける産学の研究交流の場を目指すことである。また、サイトでは、
ILPに関する文献の検索ができたり、ILPを研究している大学、研究機関、そして、企業な
どがリンクされている。

MLnet [2]では、機械学習や知識発見に関連する人の情報、研究で使用されたデータセット、
ソフトウェア、会議やワークショップの紹介、そして、プロジェクトに関するリンクなどがあ
る。このサイトでは、ILPの研究で使われた多くのデータセット(例えば、分子モデル、メ
ッシュデザイン、WWWマイニングなど)をダウンロードすることができる。我々の研究
室で開発されたレイアウト問題のデータセットもこのサイトから取得できる。この研究ネットワークの活動は、2000年から2010年のサイエ
ンスとビジネスの見通しを立て、新しい技術の導出と従来の技術の適用を促すために、ツ
ールの整備や教育コースの設定を行っている。しかし、このネットワークの中心人物であ
Stefan Wrobel [6]が大学に移ったため、この活動は少しずつ低下していくことが予想される。

3.著名な機械学習(ML)グループと人物

ここでは、大学を中心とする機械学習グループを5つ紹介する。最初に紹介したいのが
York大学 [7]である。このグループの中心人物は、Stephen Muggleton [8]である。Muggleton
は、オックスフォード大学からヨーク大学に教授として移ったという経歴がある。私は
Muggletonとは第1回のILPワークショップから親交があり、1999年12月に同教授
と”実世界の知識マイニングワークショップ”を東京理科大学情報メディアセンターで開催
した。この機械学習グループのサイトでは、一般的なILPやProgolの説明、ドラッグデザイン、
そして、プロテインの形状予測などの適用研究の紹介が行われている。そして、研究で利
用されたデータセットをダウンロードすることが可能である。

York大学と同様、ILPの理論、実装、適用研究をサイト構成の中心とするグループに
Oxford大学機械学習グループ [9]がある。このグループは、ILPのリアルワールドへの適用に
強く関心を持つAshwin Srinibasan [10]が中心人物であり、サイトからは、研究成果の情報や
研究で利用されたDrugデザイン、生体情報などのデータセットをダウンロードすることが
できる。また、「論理プログラミングと学習」という教育コースがある。

次に、経験からパフォーマンスの改善を行う適応型システムを研究テーマとし、その枠組みでILPを研究するグループであるテキサス大学オースティン分校 [11]を紹介する。ここの中
心人物は、Inductive Arrpoachに関心を持ち、ILPワークショップに参加するようになっ
Raymond J.Mooney [12]である。彼は、米国流と欧州流のブリッジ役となった研究者である。
このグループでは、ILPとEBL(Explanation-Based Learning)を組み合わせたDOLPHIN、
トップダウンのFOILと一階述語に基づくdecisionリストを持つFOIDLなど9種類のILPシステムを作成してきたようである。

現在、ILPのデータマイニング分野への適用を中心に研究している代表的なグループとし
ルーベン大学機械学習グループ [13]がある。そのグループには、ILPとデータマイニングをテ
ーマとして研究しているLuc De Raedt [14]、ILPシステムの研究開発と積極的な環境データの適
用を行っているHendrik Blockeel [15]、そして、ILPシステムの開発とILPにおけるフリーク
エントパターンや並列化を行っているLuc Dehaspe [16]など有名なILP研究者が所属している。
このサイトでは、帰納的に、そして、仮説的推論により例からの学習が可能なCLINTと
RUTHシステムの紹介やILPの枠組みで開発された節発見エンジンCLAUDIENの紹介が
なされ、また、MLグループに属する人の学会発表情報と書籍に関する情報が得られる。

最後に、カリフォルニア大学(UCI) [17]を紹介する。このグループでは、実験に知識獲得の
メカニズムを明らかにすることを目的としている。そして、画像データ、テキストデータ、
また、国際的な機械学習データベースを提供している。

以上の5つのMLグループを紹介したが、これらの以外にも数多くのMLグループが
Web上にある。これらの多くは、上で示した研究グループや研究機関のリンクからたどる
ことができる。

上記では、MLグループを紹介するとともに、著名な研究者について紹介した。以下には、
その他の著名な研究者を数名紹介する。

J.Ross Quinlan [18]:

私がQuinlanの研究を知ったのは、彼がワシントン大学シアトル校の時代の博士論文
(1960年代後半)からである。彼の指導教授はEarl Huntであり、概念学習の専門家であった。
彼が作成した分類学習システムは、現在、最もよく使われている機械学習
ツールである。このサイトは、必見、いや、訪問した方がよいURLである。

Quinalnは、現在、シドニーにあるNew South Wales大学でコンサルティング教授であ
り、機械学習によるデータマイニングソフトウェアを開発している。Quinlanのページか
ら代表的な学習システムであるFOILやC4.5をダウンロードすることができる。また、
Quinlanの開発したソフトウェア(C5.0)は、RULEQUEST RESEARCH [19]というソフトウェ
ア会社を通じて取得することができるが、ライセンスが必要である。

Peter A.Flach [20] :

現在、Bristol大学に所属し、研究テーマは、ILP、学習と推論、ロジックと確率の組み
合わせである。そして、機械学習を用いたユーザ行為の予測、述語論理と確率モデルの融
合、ビジネスに対するデータマイニング、制約と述語論理による知識表現を行っている。
彼のサイトからは、ILPに関する教材や発表論文をダウンロードすることができる。

William W.Cohen [21] :

現在、AT&Tに所属しているが、機械学習と情報検索を研究テーマとし、その枠組みで
帰納学習システムRIPPER、それを一階述語論理風にアレンジしたFLIPPERを開発した。
機械学習による情報検索の論文が多数あり、Cohenのページからダウンロード可能である。

上記のように人物を絞って紹介したが、ILPには理論を研究する研究者、そして、適用を
考える研究者など、世界には多くの研究者がいる。もしILPに関して必要な情報を得たい
のであれば、次に紹介するサイトを参考にするとよい。

4.文献検索c

ILPに関する文献を取得したいのであれば、次のサイトがお薦めである。

また、昨年は、スロベニアで開催されたが(ILP’99 [25])、今年は、ロンドンでILPの国際会
議(ILP2000 [26])が7月24日から28日まで開催される。ここで発表される内容は、ILPの
最新の話題であるため注意したい。

5.おわりに

ILPは理論から実装へ、そして、現実的な問題に応用する段階にきている。対象とする問題
に対して、ILPの適用方法をノウハウとして蓄積しておくことは重要である。もしノウハウとして蓄積しておかなければ、
効果的な処理ができないという問題点をILPは持っていることに注意しておかなければならない。

現在、我々の情報メディアセンターでは、ILPだけではなく相関ルール、フリークエントエピソードなどを統合したJavaによ
る機械学習システムを開発し、多くのビジネス領域への応用を行っている。

6.References


  1. http://www-ai.ijs.si/ilpnet/


  2. http://www.mlnet.org/


  3. http://www.cs.bris.ac.uk/~ILPnet2/


  4. http://www-ai.ijs.si/ailab/bratko.html


  5. http://www-ai.ijs.si/SasoDzeroski/SasoDzeroski.html


  6. http://hp735.cs.uni-magdeburg.de/~wrobel/


  7. http://www.cs.york.ac.uk/mlg/


  8. http://www-users.cs.york.ac.uk/~stephen/


  9. http://oldwww.comlab.ox.ac.uk/oucl/groups/machlearn/


  10. http://oldwww.comlab.ox.ac.uk/oucl/groups/machlearn/ashwin.srinivasan.html


  11. http://www.cs.utexas.edu/users/ml/


  12. http://www.cs.utexas.edu/users/mooney/


  13. http://www.cs.kuleuven.ac.be/~ml/MLRG-E.shtml


  14. http://www.informatik.uni-freiburg.de/~deraedt/


  15. http://www.cs.kuleuven.ac.be/~hendrik/


  16. http://www.cs.kuleuven.ac.be/~ldh/


  17. http://www.ics.uci.edu/~mlearn/Machine-Learning.html


  18. http://www.cse.unsw.edu.au/~quinlan/


  19. http://www.rulequest.com/


  20. http://www.compsci.bristol.ac.uk/~flach/


  21. http://www.research.att.com/~wcohen/


  22. http://liinwww.ira.uka.de/bibliography/LogicProgramming/ILPBook.html


  23. http://www.cora.jprc.com/Artificial_Intelligence/


  24. http://www.cs.bris.ac.uk/~ILPnet2/Library/


  25. http://www.cs.bris.ac.uk/~ilp99/


  26. http://www.cs.york.ac.uk/ILP-events/ILP-2000/


( 溝口 文雄, 東京理科大学理工学部経営工学科 & 情報メディアセンター, mizo@imc.sut.ac.jp )