安斎利洋の日記
2006年07月23日
11:00
人工知能に知能はいらない
人工知能に、知能はいらないのではないか。
世間には、生きているふりをする擬態ロボットが流行っているけれど、少なくとも開発戦略はそれでいいのではないか。
これは、「意味は作者ではなく読者の側にある」という主張の変形でもある。
またこれは、意識の根源は、意識のあるものに自分が意識のあるものとして認知させようとする擬態ではないか、という仮説に基づいている。つまり、粉飾同士が向かい合うと、本当に作動する回路が成長する。
知的な観察者に対して知的にふるまうためには、結局最終的には知的になっていくしかない、ということなのかもしれない。
また、生きている人間の知性も、おおかたは知性の擬態にすぎないということかもしれない。
コメント
2006年07月23日
11:26
健
ロボットにいかに読者たらしめるかが問題なのでは。
2006年07月23日
11:31
Yuko Nexus6
>また、生きている人間の知性も、おおかたは知性の擬態にすぎないということかもしれない
深いですな。他人に知性を感じる時、それはこちらの側の知性を求めるスィッチがなにかの拍子で押されて、こちら側に何か得体のしれないものが起動しているのかも。
かいかぶり、とか、勘違い、とかいう言葉がぴったりかも。
2006年07月23日
11:39
安斎利洋
>ロボットにいかに読者たらしめるかが問題なのでは。
ちゃんとした読者でないと言えないようなことを言うための情報収集の戦略をどう取得させるか、を考えるんでしょうか。
2006年07月23日
12:08
おがもんじゃ
知的な観察者に対して知的にふるまうためには、結局最終的には知的になっていくしかない、ということなのかもしれない。
こうして安斎さんの文章を引用しながらコメントしていくうちに、自分の心もだんだんと知的だと誤解するようになる・・・まさに知性の擬態。デジタルの世界にはそんな仕組みが最初から内在されているのかもしれない。
知性の擬態はベースになるかもしれないが、できればもっと自分の心に正直にふるまいたいと思う。たとえ、それが観察者の知的レベルを満足しなくとも、それは自分の好奇心を満たしてくれれば、それでいい。
電車でケータイひろげてゲームに熱中している人が多い。個人的にはあまり好きではないけど、それが人間の知性といわれればそれもいいだろう。人のふるまいを擬態するロボットはそこまで真似をできるのだろうか。
人殺しのロボットはよく映画に出てくる。でも、ゲームに熱中するロボット、お金を儲けることばかり考えているロボットが世の中に出てくれば、それを見ている観察者である人間は、少しはましな心を取り戻してくれるかもしれない。小さな虫のように人間も無私になれそうだ、と思ってくれるのかもしれない。
昨日まで「情報学的転回」という西垣さんの本を読んでいたので、それに大きく影響されてしまった。それと最近そろえた「攻殻機動隊Stand Alone Complex」。そして愛読書の司馬遼太郎の本。やっぱりこれも知性の擬態だったりして・・・
2006年07月23日
12:13
ikeg
それでもやっぱり、生命を作りたい、意識をつくりたい、という気持はありますよね。不可避的に獲得してしまった「命」と「意識」について、それの喪失感がわかっているからなおさら。 意識を戻したり命を取り留める「科学」であるはずの医学が科学になりきらないように、生命生成の理論はなく、人工生命も通常科学とは異なり、意識生成の理論は脳科学の外にあるってことです。
これは安斎さんの意見がチューリングテスト的になっていることに対して、チューリングパターン的あるいはチューリングマシン的観点からの反論です。
2006年07月23日
13:00
MATANGO
去年のなぜかクリスマスに、初期仏教の長老のお説教を聞きにいったら、
「生命の根本は知ることだ」という話をしていました。
聞いた当座は、なにか深遠でよくわからない真理・哲理を聞かされたような気がしていたのですが、考えてみるとこれ、案外にシンプルに事実だろうと思ったんです。
古細菌みたいな原初の生物でも、生き物になったとたんに「自分とそのほか」というのがわかれてくる。
「自分」は、「そのほか」から刺激を受け取る。
似たようなことは、化学反応でも起こるかも知れませんが、生き物は、それを自分がそのまま自分でありつづけ、自分とおなじものを増やしていくために利用する....。
それは、わしらが普通「知る」といっていることと、そう違わない...というか、そのものなんではないか？
漢訳された仏教用語では、その「そもそもの知ること」というか「知ろうとする欲望」を「渇愛」というようです。
この「渇愛」をセットできれば、人工生命となるのでしょうか？
2006年07月23日
13:32
ikeg
知ろうとする欲望としての渇愛は、そうかもしれないですね。ただしセットできないから。愛とか信じるとかねたむとか皆セットできないです。＊＊が愛だとか、○○が信だとかは言えるけど、その言い換えそのものは観察者にゆだねる。そもそもそれが安斎コメントなんだけれど、あるレベルのdispositionはつくれるんじゃないかな。
2006年07月23日
15:10
安斎利洋
ついゲームに興じてしまうアシモは作れます。それから、mixiの中でなんとなくうまくやっていくロボットも作れそうが気がする。習性を教えていくだけでも、ある程度の擬態は作れて、甘いチューリングテストには合格できるでしょう。でも、一歩突っ込んでお付き合いを始めると、それはたんに入力に対して反応するモデルを複雑にしただけだから、そういうのは（仮に本当に人間でも）退屈な対象にすぎない。
じゃ、ちょっと高度な人工無脳「酢鶏」を作ろうという計画を立てて、
・相手の口まねをする
・口まねの組み換えをして、対話を自走的に内部生成している。
・相手が退屈であると評価できる
・相手にとって自分が退屈であると評価できる
・カテゴリーエラーを作り、退屈を脱出する戦略をもつ
といった仕組みをセットしてmixi上で運転を始める。目標はあくまで、退屈させない擬態ロボット。すると、彼はどう育つのだろう。それが絶対に意識にまでいかないとしたら、何が足りないんでしょう。
2006年07月23日
15:21
安斎利洋
いや、「退屈の評価」をするのが意識なんだということは、わかっているんですが。
2006年07月23日
16:53
MATANGO
＞何が足りない
「愛」でしょうか....なんて...。
この「渇愛」という考え方がユニークなのは、それが人間だけではなく、生物一般の原理だと考えられているところだと思うんです。
「知能」とか、また「意識」とか「クオリア」というのは、ふつうは人間の、しかも脳の機能として考えられているわけですが、じつはそれは、生物ができた瞬間からあるんじゃないか？
よく温泉の噴出口なんかにいるらしい古細菌も、「知能」とはいわないまでも「知る」ということをしていて、しかも「意識」とか「クオリア」と言われるものを、持っていると考えていいんじゃないか？
それは極端な「共感覚」みたいなもので、バッとしてボッとしてはいるけれど、確かにそれを感じている「自分」（または「自分ら」でしょうか？）があって、その自分なりの感じ方で、まわりをあるまとまりとしてつかんでいるんじゃないか...。
もしそうだとして、そんな古細菌もすなる「意識」というものを、どうして人工的につくることができないのか？
いくらマネをしても、どうしてもホンモノにならないのはなぜか？
まず、「生きていないから」と言うことができるんだと思います。
「自分がないから」ともいえる。
じゃあ、生きているとはどういうことか？
自分を維持しようとする？
自分を増やそうとする？
よくわかりませんが、ちなみに初期仏教の長老は、「生命がなぜあるか？」というような疑問について、「わからない」と言ってました。
生命がどういう性質をもっているかはわかるけれど、それがなぜどうしてあるのかはわからない。
わからないことについては、口を閉ざす...と、どこかで聞いたことのあるようなことも言っていました...。
2006年07月23日
16:59
安斎利洋
MATANGOさんの言い換えになるかもしれないけれど、
「意識を作るゲーム」というのを想定したときに、ゲームの展開を決めるのは、ルールとはじめの駒の配置ですが、愛やねたみは、初期の駒の配置としてセットされている。じゃ、人間や地上の生命という配置を捨てて一般解として意識の成り立ちを考えたときに、意識っていったい何なのか。可能世界にも適用できる「意識」の一般形って、なんなんでしょう。
2006年07月23日
17:01
ikeg
経験というのをうまくプログラムさせれればいいと思ってます。唐突に聞こえるかもしれないけど、記憶するということは今のところできないし、エピソードも持ち得ない。自発的wantがつくれればいいが、そのうえに他のwantなんかが派生させられるか、ですね。
2006年07月23日
17:36
るーぱぱas不良mixi
意識も知能と同じようにチューリングテストで擬態を判定する
しかないように思えますが、仮にうまい擬態が完成しても中で
起こっていることは全然別物ということもあるかも知れませんね。それとチューリングテストが甘くなれば意識や知能として認められるものは増大しますね。僕は自分のパソコンが知能をもっていると感じることがあります。（能天気なコメントですみません。）
2006年07月23日
17:46
安斎利洋
記憶や経験は、「過去の事象」が、生きているがごとくふるまう擬態ではないか。
いや、ここまで言うと詭弁になってしまうか。
擬態ロボットは見るたびに嫌な気持になるんですが、発想を変えて彼らのやっていることの延長に、何かを期待できるか、と考えたわけなんですが。
ミメーシスと、そのズレ（転写ミス）から組み上げられることは、多いのではないかと思う。子どもの多くのwantは、ほかの子のまねですし。
2006年07月23日
17:58
安斎利洋
>チューリングテストが甘くなれば
エプソンのスキャナが壊れて、２日連続でサポートに電話をかけたことについて、昨日の日記に書いたんですが、まんま引いてくると、
「エプソンのユーザーサポートで、あるときＡさんが懇切丁寧に教えてくれた。彼らは、サポートの内容をカルテのようなものに書いていて、何日かあとにＢさんが出たとき、まったくシームレスに会話がつながりました。サポートのメソッドがマニュアル化されていて、記憶がつながれば、サポートの仕事的には、まったく同一人格。人格はどんどん移っていくし、分岐したり、ひとつのＤＢが、何万人もいっぺんに「個人的」に相手をしたり、しはじめるんじゃないか。」
話題が限定された状況では、次にロボットＣさんがメールを送ってきても、たぶん気づかない。そういう状況は、もう起きてますね。巧みなスパムと、友人の間抜けなメールが区別できないときがある。
2006年07月23日
22:28
たんぎー
確かに話題が限定されていると人間とロボットの区別はつきにくそうです。ネット上ではそのための条件が整いやすいんではないでしょうか。逆にロボットが人間のような身体を獲得すると、話題は一気に広範囲になり、「知能あり」とみせかけづらくなるのでは？
2006年07月23日
22:59
しゅわっち
＞粉飾同士が向かい合うと、本当に作動する回路が成長する。
このように成長するためには 知能がいるのですよ．
つまり知能とは，知識を植え付けられたことではなくて，世界に対して反応する力のことだと僕は思ってます．
2006年07月23日
23:06
安斎利洋
>このように成長するためには 知能がいるのですよ．
そりゃそうなんですが、その知能はどこから来たのか。ブートストラップする循環がどこにあるのかを考えたいわけです。
2006年07月23日
23:22
安斎利洋
>「知能あり」とみせかけづらくなるのでは？
話題を限定する、ということ自体が知能を否定するわけですよね。知能は、話題をつきやぶることだから。
相手に自分の知能を示すために知能が生まれる、という仮説をたてると、ここに振動が起きたとき、どんどんハウリングのように高い知能へ階梯をあがっていって、強くなるというより、無数に襞がよってくる、というイメージを僕は抱いています。
2006年07月24日
13:56
『知能』＝『人間』となってしまうので、そういうのは必要なのかどうか、目標としてはありなのかもしれないけど、
そうじゃない、知性というか、考える機械同士の生態を作りたいというのが私の夢です。人間の感情は排除した世界。
2006年07月24日
14:03
安斎利洋
擬態モデルは、評価を人間がやるとは限らないので、機械同士を向かい合わせればいいんです。
同じ仕組みのもの同士が向かい合って、なんで双方以上のものになるのか、というところが問題のポイントで、それはおそらくミスリーディングやカテゴリーエラーなんじゃないか。
2006年07月24日
14:13
ミスリーデイングや、暴走が起きるというのは良いシステムで、
つまらない、あまり何もたいしたことが起きないループにはまってしまうほうが多い。多様な反応を相互作用のみで生み出せたら、すばらしい。
2006年07月24日
14:26
安斎利洋
人間は、退屈を覚えた哺乳類である。
安斎利洋mixi日記 一覧へ
