知の構造化シンポジウム 2013 での基調講演

2013年2月2日に東大で開催された知の構造化シンポジウムで ,「知の構造化と私」という題で基調講演をしました.
スライド写し→ 2013-02-02-utks

知の構造化と私
西田豊明

1. 知の構造化:研究者の日常の活動
1.1 知の構造化という活動
「「知の構造化」とは,コンピュータを使って大量の情報を処理し,各要素の間の関係性を明らかにし,利用可能にすることです.これによって,大量の情報を様々な用途に活用することができます.」
知の構造化センター http://www.cks.u-tokyo.ac.jp/projects.html
「コンピュータを使って大量の情報を処理し」というところが大変先進的だが,今日の私の話では,「刻々と湧き上がってくる知を集めて,構造化することにより,多様に利用可能にする」くらいにゆるめて考察してみたい.
(1) 知の構造化と聞いて真っ先に連想するのは,研究教育に携わる人が日常的に行っているもろもろの事柄である.つまり,われわれは,日常,教育,研究,学会,委員会,実践などを行っているが,それらの総体が原始的な意味での知の構造化だと思う.
こうやってプレゼンをすることも構造化の一つである.これまでぼんやりしていた私の頭の中での考えを構造化してプレゼンして,皆様に活用していただこうと思っている.こういうことの積み重ねが知の構造化の原始的な姿であり,研究教育に携わる人が大昔から行ってきたことだ.
ふだんは自分は知の構造化に取り組んでいるとあまり意識しないが,最近ややマクロなレベルで構造化に関わる仕事をしていると意識したことがあったので紹介したい.
(2) それは,科研費細目表改訂作業である.正式には,系・分野・分科・細目表と言われているものであり,科研の応募トラックを定めている.科研には特別推進から若手Bまで毎年約8万件の新規応募がある.これを約300細目(298細目:~2012年度;319細目:2013年度~)の細目ごとに書面審査を行い,合議審査を経て配分を決定しているのだが,その審査の構造は系・分野・分科・細目表に従っている.現実的には,審査のための区分であるが,いろいろな助成金の審査に使われたり,学術振興会賞や育志賞など表彰の区分に使われたり,果てには学科の名前を決めるのにもつかわれたりしていて影響力が大きい(家政学と生活科学).細目表にない研究項目は世の中から認められていないものとも言えるので,キーワードレベルでもポリティカルなやり取りが行われる(マルチエージェントシステム).
細目表は10年に一度大改訂をすることになっているが,たまたま,JSPSの主任研究員に任ぜられていたため,実質的な責任者となって担当した情報学は今回の改訂で,環境学とともに分科から分野にアップグレードされることになり,焦点の一つとなっていた.これから10年の系分野分科細目表を決めることになるので重責を感じたがやりがいのあった仕事だ.
審査のための区分とはいうものの学問体系をある程度反映していなければならない.
過去10年使われてきたものを精査したがかなり具合が悪い.今の研究の状況を反映していない.
文科省からは大くくり化せよと言われる中,また,学会からの圧力もある中,11細目(17区分)を21細目(23区分)にする案を提出した.
この過程では,いろいろなところといろいろな議論を展開した.大くくり化に対する話,細目が多すぎるという話,人間情報学というのはミスリーディングだという意見,大学でゲームをするなんてけしからぬという意見.よく見てみると,定義すらもないことがわかった.そこで,14ページにわたる意見書を作成し,何とか実現した.つい最近審判の日が来た.細目設定には高いハードルが設けられており,基本的には1細目100件の応募がなければならないのだが,何とかそれをクリアした模様(一部成績の悪いところもある).
このほかにも本を執筆したり,学会での応募区分をつくったりするときなど,知の構造化を強く意識するときがあり,それに直接携われることできるのは.研究者冥利に尽きるといつも思っている.
2. 人工知能研究者としての立場
さて,私自身は人工知能研究者でもある.
2.1 人工知能研究者とは?
人間のしている知的行為に関心を持つ
それをコンピュータで再現してみようとするとんでもない人たち…とんでもないというところにひっかかるかもしれない.ここは「神をも恐れぬ」と言い換えてもいいのかもしれない.なぜとんでもないのか,それはあとで.
1956年に旗揚げ
日本では約3000人?…人工知能学会会員数.
3. 人工知能とは?
3.1 人工知能とは?
(1) 知能をもつメカ
(2) 心をもつメカ…「悪の天才」という言葉もあるように知能と心は区別している.
(3) イメージ→ ロボット- 映画『ロボット』公式サイト
(4) 人工知能を描いた一番わかりやすい映画はインド映画の「ロボット」 だと思います.映画の中に出てくる「Chitti」は,前半は,記憶力,論理的な思考力,状況判断力,身体能力,学習能力のいずれにおいても人間をはるかに上回る人間をスーパーインテリジェンスをもち,後半は,理想化された心をもつ人工知能ロボットとして描かれています.
3.2 人工知能の研究の歴史
発見的手法,知識表現と利用,機械学習などの,知能システムを構成するための基本仮説とその最初の実装がひと通り終わり,現在は緻密な理論化と堅固なシステム化のステージに入っています.
1960年代の人工知能研究では,大規模探索空間を多くの場合に効率的に探索する能力が知能の原動力になると考えられてきました.1970年代では,知識の効果的な表現が本質的であり,それに基づいて推論を効率的に実行する記号体系を運用する能力が専門家のような高度の問題解決能力を生み出すと考えられてきました.1980年以降になると,大量のデータのなかからパターンをみつける能力,さらには,それに基づいて自己の行動能力を高める能力が知能の核心と思われ始められてきました.
3.3 人工知能とともに35年あまり
人工知能の研究をしてきた.
4. スーパー知能たち
4.1 コンピュータは人を超えるか?
ゲームをはじめとするヒューリスティック探索の領域では大きな成果が生まれ,囲碁や将棋などのメジャーなゲームでは,すでに人間のチャンピオンは人工知能に勝てなくなってしまいました.代表例は,1997年にDeepBlueがチェス世界チャンピオンカスパロフに勝ったことです.その後,知識表現言語で記述された知識に基づいて専門家レベルの問題を解決する知識ベースシステム技術が開発されて,人工知能の有用性が社会にインパクトを与えました.1990年ころから研究が加速された機械学習とデータマイニングは,デジタル化によってあちこちに出現した「ビッグデータ」から法則やパターンを探索する役割を担っています.
人工知能分野の努力が2010年前後に一挙に開花しました.さっき紹介した,IBM Watson, Siri, Google Driverless Carなどです .さらに,MicrosoftのKinect SDK やAldebaran RoboticsのNao やのWillow GarageのROS (Robot Operating System) などの研究に使えるリーズナブルなプライスのプラットフォームが普及し,研究がずいぶん加速されました.この傾向はまだまだ続くでしょう.
ヒントは映画の中のAIにあります.いろいろな描き方がされているが,なかには非常に精密に技術予測をしていてそれに基づいたストーリー作りをしているものも多い.例えば,マイノリティレポートやターミネーター.アップルのThe Knowledge Navigatorのように具体的に未来像を描いたものもある.
4.2 Wow Factor ― 人工知能研究者を駆動してきたものこれまでの人工知能研究の発展は,人工知能マインド ― すなわち,多くの人に「すごい!」 と言わせるような人工システムを実現しようという気概 ― に支えられて,あるいはWow factorを増やそうといういうマインドに支えられて,数々のインパクトをもたらしてきたと言える.
研究者ならわかるだろう.研究者冥利に尽きる
なんだか心の底のほうで賛成できないなと思うことだろう.
5. スーパー知能のダークサイド
いつまでもそればかりやっていると具合が悪いことがある.
5.1 スーパー知能のダークサイド
スーパー知能が人類を滅ぼしてしまうなんてことは小説や映画によく出てくるシナリオですが,そこまでいかなくても,スーパー知能にはいくつかのダークサイドがあることを指摘しておきたいと思います .
第一は,技術の乱用(technology abuse)です.スーパー知能が現れると悪用しようとする人が現れるのは世の習いです.道具は諸刃の剣.善意があってもいいとは限らない.年寄り子供にスマホをもたせてモニタリング.いまに指輪になるかもしれない.大病院に行ったら受け付けシステムが変わってた.どうするかというとkioskで来院登録をする.コードの印刷されたタグを手首に巻き付ける.タグ付きの蟹ではあるまいし.首からidカードをぶら下げるのは.格好いいような気もする.番号でなく名前を表示しているからなのだろう.
第二は,責任能力の破たん(responsibility flaw)です.スーパー知能のすることに対する責任をいったい誰がとるのかという問題です.よく考えてみると,製造者も,販売者も,所有者も,使用者も責任をとれません.絶対安全ということがない限り,保険といった社会システムに依存しなければならないと思います.…使用者でも自分のもっている人工知能のしでかしたことに対して責任は取れないかもしれない.
第三は,モラルの危機(moral in crisis)です.スーパー知能のなかに一定の社会知と倫理コードが組み込まれることになるのでしょうが,そうなると人間はスーパー知能に任せきりになって,他者を思いやるとか,社会における自分の役割などといったことについて考える機会を失いがちになります.
…人間だって誰かに任せると,その奥にある問題に気付かなくなってしまう…
第四は,人工物への過度の依存(overdependence on artifacts)です.スーパー知能がないと人類は生きていけなくなってしまうかもしれません.そのような弱さは多くの人によって指摘されてきました .
5.2 シンギュラリティ
人工知能の知性が(それを作りだした)人間の知性を超える日.
IEEE Spectrum 2008年6月号
http://spectrum.ieee.org/biomedical/ethics/signs-of-the-singularity
“The AI Scenario: We create superhuman artificial intelligence (AI) in computers.”
“The IA Scenario: We enhance human intelligence through human-to-computer interfaces–that is, we achieve intelligence amplification (IA).”
技術的特異点(singularity) が迫ってきていると主張する論者のなかには,スーパー知能が人類を滅ぼそうとしたらそれを食い止められるかといった問題提起をしますが,私は技術的特異点のもたらす本質的問題はもう少し別のところにあると思っています.我々がまず目撃するであろう技術的特異点は,人工知能が人をさげすむとか,憎むとか,滅ぼそうとするのではなく,人間が描いた桃源郷のなかに人間が住む(ないしは住まわされる)という形で訪れるのではないかと思っています.
自分がスーパー知能だったら人間をどう扱うかを考えればいいと思います.それまでは,スーパー知能は人間のしもべであったのです.でも人間はあまりに理不尽で,テクノロジーを悪用して結局はスーパー知能をも含む世界を破壊してしまうかもしれません.でも,技術的特異点の直後に人間はスーパー知能のしもべになるのです.…The Matrix みたいなシナリオ
人工知能が種として生存したいのであれば,自分を滅亡させる要因をすべて取り除けばよい.人間は人工知能のしもべとして,人工知能のメンテや改良に努め,間違っても人工知能を絶滅させようとなどという気を起こさないように眼を光らせておけばよいのです.人工知能は人を敵対視しなくてもよいし,自由を完全に奪う必要もない.The Matrixのように閉じ込めておく必要もありません.それどころか,人が法律を順守し,争いをやめ,健康に生きるように仕向けるでしょう.また,スーパー知能といえどもはじめのうちは不完全であり,人から学ばなければならないところがたくさんあります.
桃源郷は人間の理性の究極の姿だと思っていたのですが,その何が悪いのか?人間が理性で隅々まで縛られて生きることを強いられるというのが,我々が最初に目撃する技術的特異点の姿だろうと思いますが,それはヒューマニティへの挑戦ではないかと思います.換言すれば,人類あるいは個人は,自分の運命を他者に託すのではなく,自分で決めるという自律性を守りたいからです.誰かのために生きるなんて言う図式が認められないのです.
しかし,世の中はどんどん技術的特異点に向かっている.日常生活においても保険の掛け金のコントロールにより,生活習慣病などのリスクを最小化するように運動をし,食生活をし,健全な毎日を送る以外の選択肢がなくなります.パブリックプレイスでは,他者に危害を加えるどころか,ハラスメントを与えるだけでも記録が残るから,アウトローがいなくなるのはいいのですが,選択肢が限定されていくと,我々の自律性は稀薄になります.
映画に出てくるように,一握りの支配者たちがビッグブラザーとして社会を監視するという図式ではなく,監視をしているとしたらそれは社会全体,つまり私たち自身だ.スーパー知能は(集合としての)私たちの化身として,社会の津々浦々まで思想を浸透させる役割を担っているに過ぎないのです.
知の構造化という仕事は健康に良くないからヒトにはさせるなということになるかもしれない.あるいはヒトにさせると自分の取り組んでいる分野を大きく見せようとしてゆがんだものになるからという理由かもしれない.
ただしそうなる前に悪用を防ぐことの方が大切かもしれない.
5.3 で,どうしよう?
(1) 杞憂である.そのようなことはないと論破できる.→技術はすでに人間を超えつつある.しかもじわじわと.グーグル先生は教授より信用される.データを使った健康管理や財務プランニングにはかなわない.
(2) 抵抗運動を起こす(ネオ・ラッダイト運動).→防ぎきれない.
(3) 研究者としての新しい道を探る.→AI研究者でなければベストの道.
(4) AIに共感する力を持たせる.→AI研究者ならそうしたい.
6. 人工知能に共感力を持たせる
6.1 研究者のマインドセットを変える
次の人工知能研究の新たなターゲットは,コミュニケーション知能を内包した人工知能であろう.このターゲットを象徴するキーワードとして「君がいてよかった!とユーザが言いたくなる人工知能」をあげたい.人工知能技術を搭載したエージェントがユーザから「君がいてよかった!」と心から言ってもらえるためには,単にユーザに何らかのメリットのあるサービスを提供するだけでは十分ではない.
第一に,これまで述べてきたようにユーザの抱える問題やソリューションの持つ制約など,エンドユーザの意向をきめ細かく読み取らなければならない.
第二に,意向の解釈においても,ソリューションの探索においても,社会のオープンさや予測しない出来事に起因する失敗をゼロにすることはできない.そのようななかで相互信頼を形成し,維持しなければならない.失敗してもユーザが「君がいてよかった!」と言ってくれたら一つのレベルをクリアできたと言えるだろう.
第三は,ユーザが意識的に「君」と呼んでくれるかどうかである.メディアの等価性[Reeves 1996]のために,ユーザがメディア化された実体を実体と意識下で混同して「君」と呼ぶかもしれないが,自分の道具としてではなくパートナーとして明示的にエージェントを位置づけるようにならないと,コミュニケーション知能が人間と計算知能の深いレベルでの協創をもたらしたとは言えない.
君がいてよかったと言ってもらえるAI作りに励もう
最も中心になる概念は共感する力をもつAI
6.2 これまでのAI,これからのAI
能力の高さを誇るAIから共感力の強さをもつAIに目標を変えなければならない.
ゲームを例にとると,これまでの人工知能研究では,さまざまなテクニックを駆使してゲームに勝つ能力をもつプログラムの実現が目標とされてきた.これからは,ユーザにゲームの面白さを教えたり,ゲームの醍醐味を味あわせてくれるような対戦をすることによって,ユーザに「君がいてよかった」と言ってもらえるようになる道を探らなければならない.人工システムの特性を利用することも考えられる.例えば囲碁において,相手が人間の場合は,「待った」をすることは大変失礼であり,してはいけないこととされてきた.たとえ,先生に指導碁を打ってもらっているときでも,同じ局面で自分が納得するまで試行錯誤をすることはできない.一方,ゲームに強くなるためには,いろいろな局面を徹底研究することは有効である.人工知能技術を使った囲碁先生が忍耐強く,しかも,楽しく試行錯誤に付き合ってくれたら,ユーザは囲碁のだいご味を知り,棋力はめきめき上達するに違いない.
2012年3月17日は,囲碁ソフトZenが武宮宇宙流に挑戦し,5子一番手直りに連勝した とき,プロ棋士の一人が,「これで人間とコンピュータがコラボして最善譜作りができるようになった」といった趣旨のことを語ったことが非常に印象深い.囲碁が面白いのは,各局面の作り出す探索空間の構造であり,勝敗が二の次になることもある.
このようにただ強いだけのAIでも局面を限定すれば役立つが,広く社会に役立つためには共感力が必要不可欠になると思う.
IBM Watsonの場合について同様のロジックが成立する.クイズを解くためにあれやこれや考えるところも面白いが,出題の段階まで遡るともっと面白い.事実の持つさまざまな側面,人間が陥りやすい誤解,見逃しがちな属性など,人間の認知の奥深さを知る良い機会となる.Siriや,まだチャレンジが宣言されたばかりの東大に合格する人工知能についても同様である.人工知能に代わりに受験をさせるわけにいかないから,人工知能の能力が優れているだけでは「君がいてよかった」ということにはならない.
6.3 そもそも共感とは何か?人間同士の場合は…
相手の状態や気持ちを推し量ること.自分もそうだなあと思えること.
6.4人工知能に心をもたせることは可能か
共感力をもつことは心をもつことを前提とするから,共感力をもつAIを作るためには心をもつAIを作らなければならない.
最近の脳科学の進歩を目の当たりにするとチャンスはあるように思える.
7. 心をもつAIは実現可能か?
最近,脳科学の知見によれば,「人は物理世界に直接触れていると思っているが,それは脳が創り出した錯覚である.脳は感覚信号と予測を組み合わせることで物理世界のモデルを創り出す.人が知覚するのはこのモデル」であり,自分や他者の心も同様の方法で創り出されていると考えられるようになってきました.つまり,心も自我も社会もその本質は物質として存在するのではなく,脳の上の情報プロセスとして存在するということになります.
インターネットに接続されたコンピュータで,人の脳に心の存在を確信させる存在を創り出すと,それが心をもつメカになるということであればまず手掛けてみてはどうだろう.筋としては,十分条件を探そうということになるが,それだと問題を堅苦しくしているだけだから,漸近的に(asymptoticに)近似度を高めていくというくらいの肩ひじ張らない取り組みを長く続けることが大事ではないかと思う.
心そのものについても,心をもつメカにしても,人工知能での研究はそれほど進んでいないと思いますので,これらの問題については現時点の私の推察にすぎないのですが,一つは自我,もう一つは他の心を感じる力だと思っています.
自我については次のように考えてみたらどうだろうかと思っています.① 自我は個体に唯一存在する.② 心は自我が生み出す現象である.③ 自我が生み出した心は,自分を生み出した自我への自覚がある.④ ある個体の自我が生み出した心は,他の個体が生み出した心に気づき,さまざまな手がかりを使って他者の心が考えていることを推察できる,と.
メディアの力を使って人の心に訴えかけるメディア立脚型自律知能を実現することが第一歩だと思います.
メディア立脚型自律知能は,はじめのうちはデザイナがゲーム的な手法で描いた道筋に従って発展するが,人間と一緒にゲームをしているうちに関係性を集積してアイデンティティを次第に確立していくというシナリオです.
8. 共有仮説:共有基盤が大きいほど共感も高まる.
8.1 共有基盤とは
共有基盤とはコミュニケーションに参加する人が前提として共有している世界の知覚能力,背景知識,信念,言語,ルールなどのことです.
こうした基盤は行動主体によって運用されなければなりません.自律キャラクターは,知覚,概念,常識,推論などの問題解決的な知能だけでなく,情動,言語・社会知まで含んだ広くて深い知能を運用する能力が求められます.さらに,こうした人間的基盤を支えるものとして忘れてはいけないのが動物的基盤とでも呼べるものです.
参加者たちはみな同じ動物的基盤の上に立っているということを前提にしてコミュニケーションするということ?
動物系基盤というのは,時間,空間などの基本的な環境基盤の上につくられるものです.その上で,他の生命的存在が住まう環境を知覚し,他の生命的存在との関係をうまく調整しながら,上手に活動できる能力をもつこと,つまり生態系にいる他の「生命体」との間で,採餌,摂食,攻撃,警戒,警告,防衛,逃走,退避,威嚇,営巣,縄張り行動,揺籃,求愛,…などさまざまな動物的行動[20]を察知し,時として他の生命体と共同で実行する能力を共有することを意味します.
8.2 どれくらい共有できているか?
まずこのビデオをご覧いただきたい.このビデオはタイから来ている留学生の撮影した.マーケットで食料品の店に客がやって来て買い物をしている.ディーテールはわからなくても,誰が関与しているか,取引が円滑に進んでいるか,誰と誰の間でやりとりが行われているか,どんなやりとりが行われているか,など大方のことはわかる.
コンピュータがこういうことをわかるようにすることがいいサービスにつながることが期待される.
コンピュータによる意味理解は人工知能の古典的な問題だったが,伝統的な手法である知識に基づく理解にはいろいろな困難がある.
これを克服するためには,ヴィトゲンシュタインの言語ゲームの考え方に基づいて,状況の内側に入り込んで現象を虚心淡海に見つめることが基本的だと思われる.
今日であればこの基本的な方法論を拡張してセンサー技術でやりとりを克明に観察したり,そこからパターンを掘り出してロボットを駆動して,新しいサービスを提供したりできる.
ここで中心になるのがゲームデザインである.ゲームデザイン次第で,いろいろな人の参加を誘発し,意図した効果を産み出せる.
つまり,アナリシス,デザイン,シンセシスのサイクルからなるインタラクションゲームデザインを繰り返して,よりよいサービスにつながっていくのではないかと思っている.それを研究室で会話知能の研究として実践している.
9. 会話知能の研究
9.1 会話知能
会話知能の研究で目標にしていることは,情動知と社会知に支えられた会話知能を実現することによって,問題解決知能を人間と太いパイプでつなぎ,人により良いサービスを提供することと,問題解決知能自体を強くすることをねらっている.ここでも,人間と会話エージェントがどれくらい多くのことを共有できているかが問題になるが,現実にはまだまだそこまでは行っていない.生命基盤,身体基盤,思考基盤にはなかなか踏み込めそうにない.知覚基盤の共有から徐々に現在研究を進めているところである.
9.2 会話知能の研究体制
会話知能の体制はかなり整っている.開放型,没入型のインタラクション環境を導入し,アナリシス,デザイン,シンセシスの研究を進めつつある.
9.3 進行中のプロジェクト
進行中のプロジェクトをいくつか紹介しよう.シミュレーティッドクラウドは人混みの体験を通した文化の理解.ヴァーチャルバスケットボールは,バスケットボールにおける協調や駆け引きの体験,グループの鬼ごっこ,実空間の仮想化,テレプレゼンス,模倣学習.
10. 心をもつメカの構成概念図
次のようなものが基本的な能力だと思っています.① メタレベルの思考能力によって自己を覚醒し,様々な思考を統合して,一つのストーリー的行動にまとめあげ,② 心の理論/マインドリーダーによって,他の「心」の存在に気づき,心の理論によってそこで起きていることを推測したり,自分の行動を決めたりする,③ 記憶に基づいて主体としての自己を発展させていく,ないしは,自己複製していくこと.
心の劇場」が大きな役割を果たします.感覚器からの情報をもとに身体を維持しつつ,心の劇場に経験のイメージが作られます.心の劇場より上は,心的なプロセスの世界です.心の劇場で起きていることを知覚し,認知し,言語的に表現し,自我の意識や過去の記憶にもとづいて判断を下し,その結果起きるであろうことを想像して,心の劇場に描き,心が決まったらそのイメージに従って運動器により,行動する,といったシナリオです.
脳科学から,倫理に至る広い範囲の知識が必要です.
ここでは,ダニエル・デネット,マーク・ソームズ,オリヴァー・ターンブル,クリス・フリスから抜粋.
11. 知の構造化で共有されるべきこと
知の構造化に戻ると,知の構造化の面白いところをコンピュータが代行するというストーリをめざすのではなく,知の構造化を助けて,君がいてよかったと呼ばれるAIを作ることが人工知能研究者の貢献だと思っている.
これまでの議論を振り返ると,共有仮説により,そのような知の構造化アシスタントエージェントとはたくさんのものが共有されていなければならない.それは何か?

  • 基本的な常識
  • 目的
  • 興味
  • 面白さ
  • 難しさ

12. まとめ

  • 知の構造化:研究者の日常の活動
  • 人工知能:人のすることの人工物による再現
  • 人工知能の発展の歴史
  • スーパー知能
  • スーパー知能のダークサイド
  • シンギュラリティ
  • 共感力,心をもつこと
  • 心をもつ人工物は可能か?
  • 共有仮説
  • 知の構造化で共有されるべきこと

今日の題目の「私」.平凡な意味での私もあるが,私=心=想像力の源泉ということも暗示したかった.知の構造化センターが将来の方向を考えられるときの一つの視点としていただければ幸いです.
 

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です