なぜ人は人工知能化するのか 「陶酔する人工知能たち」その１
なぜ人は「フレーム問題」に陥らないのか
人が世界と関わる二つの方法、認知と行為とはどのようなものだろうか。そのわかりやすい例が人工知能の「フレーム問題」だろう。人工知能にチェスのような「閉じた」ゲームを遂行させれば、計算によって最適解を求めながら遂行するだろう。しかしたとえば有名なダニエル・デネットの「フレーム問題の寓話」のような「開放系」の状況では、その過程で起こる場面（フレーム）が無限に考えられるために計算を収束させることができず、フリーズしてしまう。これを「フレーム問題」という。
「フレーム問題の寓話」 http://www.johf.com/logs/20070422b.html
昔、R1という名のロボットがいた。ある日、R1の開発者たちは予備バッテリーを別の部屋に隠して、その部屋に時限爆弾を仕掛け、まもなく爆発するようにセットした。R1は部屋をつきとめ、バッテリー回収作戦を立案した。部屋の中にはワゴンがあり、バッテリーはワゴンに載っている。R1は「引き出す」というアクションを実行すればよいと判断し、ワゴンを部屋の外に引き出すことに成功したが、そこで最初の悲劇が起こった。時限爆弾もワゴンの上に載っていたため、部屋の外に出たところで R1は爆破されてしまったのである。
開発者らは第2のロボットの開発にとりかかった。自分の動作が引き起こす結果 （副次的作用） を判断できるロボットを作ればいい。新しいロボットはR1D1と名付けられた。 さっそくR1の場合と同じシチュエーションが設定され、R1D1はバッテリーの回収に取りかかった。「引き出す」というアクションの実行に先立って、R1D1は副作用のチェックを開始する。ワゴンを引き出しても部屋の壁の色は変わらないだろう、ワゴンを引き出せば車輪が回転するだろう…、膨大な副次的作用の可能性を検討しているうちに時限爆弾が爆発した。
問題は、関係のあることと関係のないことをロボットが見分けられなかった点にある。そこで開発者たちは、目的に関係のないことを見分けられるロボットR2D1を開発した。だが今度も悲劇は起こった。R2D1が無関係なことを見分けて、それらを一つずつ「無視」し続けているあいだに爆弾が爆発した。
では、なぜ人は「フレーム問題」に陥らないのか。これに対する一つの答えは、人は認知によって解を求めてから行為をするわけではなく、認知とともに行為している、ということだ。
認知とは世界全体を俯瞰する<観察者>の位置にたち、現在→最適解への最適コースを求めようとする客観主義、目的論的なものである。それに対して行為は認知とは異なった世界との関係性をもつ。行為は自立的に絶えず進行している。行為することで場面（フレーム）は変化しまたそれにあわせてまた行為するというオートポエティックなものである。
人は<観察者>の位置に立ち世界を認知（観察、予期）しつつ、平行して行為を継続している。認知によって最適解が収束する、しないに関わらず、すでに行為してフレームは変化しつづけている。だから「フレーム問題」に陥る事がない。
恋は人を「人工知能化」する
しかし人は多くにおいて、「フレーム問題」のような状況に陥っている。たとえば恋愛の場面である。誰かを好きになると人はちょっとしたパニックになる。「彼女は僕のことをどのように思っているのだろう。」「あっ、いまちらっとこっちをみたけどどういう意味だ。僕のことが好きで合図を送っている？」などなど、彼女の動作、会話の隠された意味を解読しようと妄想する。思い切って、「好きです。つき合ってください」と告白すればすっきりするだろうが、怖くてできない。
あるいは思春期に「僕はなんのために生きているんだろう」「このことになんの意味があるんだろう」となにかと悩んでしまう。大人になり社会の様々な情報を理解できるようになるが、社会での経験が少なくというアンバランスな状況がこのような悩める時期を生み出すのだろう。
これらは、行為の前で考えすぎてしまうという「フレーム問題」に近い状況である。このような認知過多の状態を「人工知能化」と呼びたい。
「認知」を言語論的に図式化すると以下のようになる。<言語記号>は<解釈項>によって解釈し<概念（意味）>が理解する。「人工知能化」とは、<言語記号>（彼女の動作、会話）を様々に解釈してしまい、その<概念（意味）>が収束せずに「躓き」、混乱、妄想に陥ってしまう。
このような認知過多な状態に対して「行為」は、解釈の決定不可能を断ち切って、「思い切って告白する」、「思い切って毎日を楽しむ」など、場面（フレーム）を進展させる力となる。
<言語記号>−<解釈項>−<概念（意味）>
<彼女の動作、会話>−<様々な解釈>−×躓き<妄想>
古い組織は人を「機械化」する
たとえば仕事において担当やバイトが権限以上の事態に直面すると、上司にお伺いを立てるだろうが、すぐには連絡が取れない場合、どのように処理をしてよいか、パニックになってしまう。
この場合には彼らは頭が悪く処理できないのではなく、仕事に忠実であるほど権限を飛び越えて行為することを躊躇し、権限内で対応しようとする。しかしいくら考えてもそこには解はなく、パニックになる。これも「フレーム問題」のような状況といえる。
図式的に表せば、Ａ）通常は、<問題>対して状況にあわせて意味を理解し適切に遂行する。しかしＢ）のように、<問題>が権限外、マニュアル外の場合には解釈が収束せずに「躓き」、パニックになってしまう。
<言語記号>−<解釈項>−<概念（意味）>
Ａ）通常 <問題>−<権限内>−<適切な理解、遂行>
Ｂ）人工知能化 <問題>−<権限外>−×躓き<パニック>
Ｃ）機械化 <問題>−（×思考停止）−<マニュアル的な解釈>
Ｄ）野蛮化 <問題>−（×思考停止）暴走
このような人工知能化してしまうのは、なんとかしようと努力しているからと起こることだ。たとえば公共機関や古い組織が往々に形式ばった対応になるのは、担当が人工知能化する前に思考停止してしまうからだ。そしてただマニュアルに従った機械的な対応しかない。機械は入力（input）に対して出力（output）が決定され悩むことはない。だからこれは「機械化」といえるだろう。<解釈項>が社会的な権威や宗教的な信念などに強く依存する場合にも思考停止しマニュアルや規則や教えに従ってしか対処しない。
さらに「どうしよう？」と悩む前に、行為してしまう場合がある。思考停止して行為することは「暴走」である。これは「野蛮化」とでも言えるだろう。しかし俗に言う「仕事ができる人」というのは、権限外に対して「責任」をもつことで、多少野蛮化しつつ柔軟に行為する人であると言えるだろう。
これら「人工知能化」、「機械化」、「野蛮化」の例は極端に図式化しすぎているが、これらからわかることは、「認知」には社会的な基盤として<解釈項>が働いている必要がある。そして多くにおいて毎回毎回解釈するのでは疲れるために社会的な<解釈項>に従い、無意識に「機械化」して対処しているだろう。そして社会的な<解釈項>では対処できない場合には、「人工知能化」する前にある程度強引にでも「野蛮化」して行為する必要があるということだ。
「フレーム問題」は人をコミュニケーションへ向かわせる契機
たとえば彼女とじゃれ合っているときに「バカ！」言われる。「バカ」のコンスタティブな意味は「頭が悪い」であるが、この場合の「バカ」の意味は「親しみ」を表しているだろう。ここでは「バカ」という<言語記号>はレトリカルに使用されている。だから解釈する場合には「え？なに？」という小さな「フレーム問題」が起こっている。そしてその返答として「なんだよ！」とじゃれかえし、彼女が笑うことで<解釈項（状況）>が正しく共有されていることが確認される。
すべての認知で<言語記号>はレトリカルに現れて、<解釈項（状況）>において「え？なに？」という「小さな躓き」が起こっている。このような傾向が特に顕著なのが他者とのコミュニケーションである。もしコミュニケーションがすべてコンスタティブな意味によって機械のように行われたらいかに殺伐とするだろうか。それはどんなにまじめな場であってもだ。たとえば「お笑い」のボケも理解不能な<言語記号>を示すことで、「フレーム問題」を引き起こし、一瞬の間のあとに「笑う」という行為を引き出す。
<言語記号>−<解釈項>−<概念（意味）>
彼女：<「バカ！」>−<彼女がじゃれている>−×小さな躓き<親しみ>
ボク：<「なんだよ！」>−<じゃれかえす>−×小さな躓き<親しみ>
<言語記号>−<解釈項>−<概念（意味）>
<お笑いのボケ>−<お笑いを見ている状況>−×小さな躓き<おもしろい（笑い）>
すなわち多くにおいて「フレーム問題」は人をコミュニケーションへ向かわせる契機となっている。コミュニケーションは「え？なに？」という「小さな躓き」が次の行為（発話）を生み出すことで繋がっていく。そしてこの終わりのない連鎖が新たな<解釈項>を変化させていく。それがつむがれて社会的な基盤としての文化活動となる。
しかしポストモダン論で言う「大きな物語の凋落」という現代の状況は、<解釈項>を社会基盤として共有することがむずかしくなっていることを示している。「え？なに？」という「小さな躓き」以上に理解不能な「大きな躓き」によって行為で容易にとび越えることができなくなっている。このような「人工知能化」する社会の中で、躓きの不安から反動的な「機械化」や「野蛮化」が生まれている。（つづく）
*1
