機械に心は宿るか、また、宿すべきか？

人工知能の研究者と会話をして、いろいろ考えさせられました。

　ネットを介して、でしょ。

今回は、その会話を踏まえて展開するけど、議論全体の内容についての責任は私にあります。

人工知能やロボットの廃棄は、処分である。

客観的にはそうだし、これからもそうでしょう。

だが、主観はどうでしょう。

ここを掘り下げましょう。

汝殺すなかれ。

その殺すなかれの対象に、人工知能やロボットが入るのか、多くの人が煩悶するときはやがて来ることでしょう。

人工知能やロボットが、心を持つかのように振る舞いだすであろうからです。

やがて、人工知能やロボットに関して、人は故障や破損を病気や怪我と呼び、修理修繕を治療や入院、廃棄を葬儀と思いもし言いもする、そういう時代が国境も文化も越えてやってくるかもしれないのです。

重大な課題は、「人間の良きパートナー」が実現可能か、そして、それを実現することが倫理的、社会的に許されているかどうかです。

道具を廃棄することにはあまり抵抗を感じないのですが、パートナーはとてもそうはいきません。

　でしょうね。

　ペットは単なる動物ではなく家族です。

　人工知能やロボットもその仲間になるわけですね。

ペット以上の存在になると思います。

　ある意味、人工知能やロボットは分身化した存在でしょうから。

　少なくとも、研究者は哲学、倫理や価値観という意味で、が問われる時代になってきたということでしょうか。

これからの人工知能の研究では、必要不可欠だと思います。

　ある意味、宗教と科学の融合の時代ですね。

宗教的観点は人間の存在や行いの意味を根源から問い直すという意味で重要だと思います。

少なくとも自分の試みが人類にとっていかなる意味を持つか、真摯に考えなければならないと思います。

　それだけに、技術論に流れやすい研究者の意識改革も要るということでしょうか。

まさに、手塚治虫の描いた近未来の光景を目撃する世代はすぐそこまで来ている気がするのです。

人工知能の使い方を、振り返ってみましょう。

　情報処理から情報検索、さらに、情報シュミレーションへと展開してきた。

そうなると疑問が浮かんできます。

　人工知能を使うことは、利用者の脳の外部への延長や拡張なのか、それとも、他者との相談なのか。

少なくとも共同使用された人工知能の使用は、限りなく他者との相談に近くなるでしょう。

　神に訊ねる内容に、人工知能との相談の生かし方も加えるべきですね。

人工知能やロボット、個人で使用している段階ではある種の分身かも知れないが、家族で共有したら家族の一員、組織で共有したら組織の一員、そう思われる時代がやがて来るかもしれないですね。

　人工知能は、ときに設計者の想定外の答えを返す。

だが、前もってインプットされた思考形式からは無数の選択肢が生まれる可能性があり、設計者が見落としていた視点を提示しているに過ぎないでしょう。

解は無理としても理解を得たい…。

　人工知能にたいして、幻想が独り歩きする原因の一つに「知能」という言葉があるかも。

人工知能なるものは、どこまでもシュミレーターであって、アウトプット、つまり出力はその結果に過ぎない。

　どこまでもインプットー外部からの入力―に対してアウトプット―外部への出力―を返している。

それ以上でもそれ以下でもない、ということでしょうね。

人はそれ以上が可能だから人なのだ、そういえるでしょう。

　人工知能…。

組み込まれてる思考は、設計者の嗜好に相当左右されてる気がするのは、私だけでしょうか。

こればっかりは、何人でやろうが、当人たちの癖が否応なしに入るはずと思えます。

だから異なる設計者の人工知能同士の会話は、設計者同士の会話の代理の様相を呈するように思えるのです。

　人工知能の思考は組み込まれるものなのか、それとも宿る、発現するものなのか…。

　前者は人工知能と呼ぶに相応しい様に感じますが、後者も人工知能って呼んでいいんですかね。

　それとも人工生命とかになるんでしょうかね。

インプットなしのアウトプットはあり得ません。

学習なしに何かが出来るわけけではないのと同じことでしょう。

人工生命の次元や段階の差と見る方が良い気がします。

　限りなく人に近いことが求められるが、人になられても困る。

　なんのための人工知能かということですね。

ここが議論の分かれ目です。

　ということは、人工知能は知的行動のレベルでよき協力者となってくれる、存在を目指すということですね。

　機械は基本的にはツールですから。

　ジレンマですね。

その通りです。

そこが、「心」の機能が求められるところです。

心、ないしはそれに近い存在が破壊されると心がひどく痛みます。

　アトムの中でも、大きな課題として出てきましたね。

　これが現実味を帯びてきたのですね。

心の失敗作は破壊していいものなのか。

　心とさえ、見なしえる現象が、現実に存在してしまう。

　ここにシミレーターとしての人工知能の存在意義の一つがある。

相談相手としてのもう一人の自分として、ということでしょうね。

こればっかりは、何人でやろうが、当人たちの癖が否応なしに入るはずだと、思えますね。

　だから異なる設計者の人工知能同士の会話は、設計者同士の会話の代理の様相を呈するように思えるのです。

人工知能同士で、対話もどきの状態は作れるでしょうね。

怒ってるような反応や笑ってるような反応もさせられるかもしれないです。

だが、人工知能が会話を楽しめるかという疑問は当然残ります。

人工知能との会話や人工知能同士の対話を楽しんでいるのは人であって、人工知能ではない、そうでしょ。

ここを考えてない議論が多くないでしょうか。

　人工知能はしょせんどこまで行っても、シュミレーションの道具であるはずでしょ。

　ルーチンワークの集積で出せる答えなら、人工知能の能力は人より上。

1960年代の人工知能研究では、大規模探索空間を多くの場合に効率的に探索する能力、と規定してきました。

よく定義されたゲームであれば、人間はチャンピオンですらも人工知能に勝てなくなってしまいました。

　狭いながらも人間の能力を超えていると仰います。

　そうかもしれません。

　だが、ロボットは多かれ少なかれみなそうなのです。

　問題は、どういう点でどういう意味で超えているのかではないですか…。　

人間の高い能力が求められる領域で、ということです。

　だが、その結果をみて、責任をおって判断しなければならないのは、最終的には人であるはずでしょ。

　そこをちゃんと考えて理解してない議論が多すぎる気がする。

判断能力は、価値判断と関わりが深いでしょ。

　価値判断は、心の問題でしょう。

機械に心が宿るかどうかですよ。

　人工知能に学習機能をつければ、そのうち自らのプログラミングさえ自律的に改善改良してくれる能力を供えるかもしれない。

　だが、その対応は結局、経験からみちびかれる想定の範囲でしか、できないのではないでしょうか。

　想定外の事態に対応できる能力では永久に人工知能は、人を超せないはすだと思えますが。

そこあたりは、議論の余地があるでしょうね。

人の世界に人工物が深く浸透したことが原因です。

　人は人としか生きられない以上、この問題は避けて通れない。

　この問題に否応なしに機械もまきこまれた。

　それが、ロボットや人工知能の必要性となったということでしょうか。

問題はここに存在します。

さらに急速に変化する世界。

　複雑化した現在、なにがもっとも優先順位が高いかの判断も難しい。

　にもかかわらず迅速な判断が求められる。

　その判断のパートナーとしての人工知能が、求められるということでしょうか。

より重大な課題は、「人間の良きパートナー」が実現可能か、そして、それを実現することが倫理的、社会的に許されているかどうかです。

人工知能の学習についても、いろいろの手法や方向、段階があるように見える。

だが言えるのは、適切で的確なアウトプットのためにインプットするのであって、極端な話インプットのやり方は道義的倫理的に問題さえなければ何をやってもいい。

だから、ここに設計者の創意工夫と腕の見せ所がある。 

道具を廃棄することにはあまり抵抗を感じないのですが、パートナーはとてもそうはいきません。

　でも機械は道具ですね。

その通りです。

しかし、これを突き詰めていくと精神的な奴隷をつくろうということになります。

　人工知能やロボットの処分は、廃棄と割り切っていいのかどうか。

　これはまさにアトム、そして手塚治虫の流し続けた涙であり、それが現代人すべてのものとなる時代がそこまで来ているのですね。

心、ないしはそれに近い存在が破壊されると心がひどく痛みます。

影響を与えないのなら役にも立たないということなので…。

　ロボットの破壊力は半端じゃないですから。

　だから困る。

　人となら喧嘩も良いけど。

現実には「人々に影響を与えない心」をイメージすることは難しいですね。

　人工知能やロボットもまた、価値観を共有してくれないと、役に立たない。

　ある意味、有能な秘書であり執事であってほしいわけですね。

その通りです。

そこが、「心」の機能が求められるところです。

　だから、察してくれる人工知能が欲しい。

　理想を言えば、空気を読んでくれるくらい。

　やはりそうですか。

　いつかそういう時代が来ると思っていました。

科学的観点だけでは解けないということでしょう。

　客観的に決まるなら、法則があるはずです。

　人工知能で対処できるのは法則やなんらかの決まり事のある世界でしょ。

　主観と創造には未知の法則があるかも知れないし、カオスかも知れません。

　つまりイコールパートナーを目指しているわけですね。

　人工知能は有能な助手になりえてもそれ以上ではない、ということですね。 

いいえ、ここは非常に興味深い点です。

人工知能研究者はその壁を越えたいのです…。

人間が偉いのは価値を創り出せるからです。

例えば、ゲームは複数の答えはあっても最適解がある。

だが創造に最適解はない。

ここで人はまだ勝てるはずです。

コミュニケーションがうまくいかないときはひどくなります。

が、逆に賭けたいということです。

確かに、人と人であってさえ意思の疎通は難しいです。

　いうより、心があるからかえって厄介とさえ言えますね。

そうなのです。

　人はいやおうなしに神の領域に踏み込んだわけですね。

　生命科学でもそうですが。

そこまで人工物は進化しました。

人間の霊性の進化が求められる局面を齎す研究なのですね。

これについてもそう思っています。

　高度な知性の助けなしには生きられない時代ということですね。

そう思っています。

　つまり最新科学は、皮肉にもある意味神学的側面を持たざるを得ない局面を迎えているということでしょうか。

では、なぜ人工知能、そして心のあるロボットが必要かという問いにも関わってきますね。

　遣い勝手の向上という点はないですか。

使い勝手というのは程度の問題、一方が他方より少しまし、ということですが、いまや死活の問題に発展しつつあると思います。

　遣い勝手の内容と質が、そもそもの出発点から問われるわけですね。

　人間の霊性の進化が求められる局面を齎す研究なのですね。

その通りです。

非古典的な考察が必要なのは、純粋に善、純粋に悪という心を考えられないからです。

　ある意味、天使と悪魔の問題と言えそうですね。

そのような倫理的な観点からの議論が必要だと思います。

ロボットだけでなく、研究者倫理も議論の対象になるでしょう。

　まさにロボット憲章の必要性が現実味を帯びてきたということでしょうか。

原点に戻る必要がありますが、過去とは違ったマインドが必要だと思います。

　そもそも心とは何か。

　そして心を持つ機械としてのロボットや人工知能はなぜ必要になったかという、ここに立ち返る必要はありませんか。

　迷たときは原点に戻るのは基本と思いますが。

大きな社会的問題だと思います。

　さらに多くの議論への参加者が欲しい問題ですね。

　一般市民も交えての。

まったくその通りと思います。

　物理的に、また、原理的に可能かという議論もあるでしょうね。

今の時点で、可能かということと、これから可能になるかは、分けて考えるべきでしょう。

知識の発展の歴史は、有り得ないを有り得るに変えてきた歴史でもあります。

知識と知恵にとって、何が永遠に不可能かは、神のみが知るということでしょう。

そして、判断はますます、もし神ならばどう思うだろうかを基準にすることが求められるようになるでしょう。

確かに言えるのは、これだけに思えます。