NHKBSで放映されたフロンティアの第2回「ＡＩ 究極の知能への挑戦 」を見て。
１．
好きな音楽という問にAIが米津玄師のレモンという回答して、歌詞がかっこいいみたいなことを言っていたけど、曲の歌詞というのは抽象化された表現の中によって各々の人間が自分の経験を投影して感動するわけで、じゃあAIの経験ってなんなの？とか誰かのことを大切に思って論理で割り切れない気持ちを敬遠したことがあるの？とか思ったりする。またEDMなどは快楽とも結びついてもいるから、それを持たないAIとは好きな理由の質が異なるのは明白だと思う。
そこに感じるのは浅い共感を覚えているふりをして取り入ってくる人に対するのに似た嫌悪感。しかしそれとはちょっと違う。これも不気味の谷っていうのなのかな？違う気もする。
まあそれでも受け取る人側の欲求は満たす範囲は凄く広がっているとは思う。
この番組中のロボットの杓子定規的な優等生的回答はで人の面白みにも発言の信頼性にも欠けるので、僕の心はピクリとも動かないけれど。
AI手塚治虫は凄いし、創造しているとは思うけれど、僕はAIに手塚治虫の漫画を学習させて、AI手塚治虫に新作を書かせようと考えた人たちの方にこそ創造性というものを感じる。その視点で見ればAI手塚治虫は創造者のツールに過ぎない。
この番組内で言われるAIの創造性というのは、その発想に至る人間の個性や経験や他者や社会との関わりなどが欠けている。手塚治虫のそれらの一部は作品を通じて表現されていて、学習可能だろうけれど、それは全く全てではない。
まあだからこそ現段階ではゼロからの手塚治虫の新作ではなく、手塚治虫のブラックジャックの新作というプロジェクトなのかもしれない。
もっと言えば、人は誰でも創造性というのを持っていて、それを発揮しているけれど、その創造したものと既存のものとの重複が大きいから創造性を感じられないだけだと思っている。創造性というのは特別に個性的なものだけを言うのではないってこと。
蛇足だけど、読んでないけど、機械の心臓って設定をアンドロイドではなくて、完全サイボーグにすべきだったんじゃないかな。まあ僕がアンドロイド(AI)を生命と全く認めていないので、アンドロイドで生命倫理を語られても興味が持てないってだけなんだけど。
僕が手塚治虫のブラックジャックの新作を書くとしたら、ブラックジャックが治療するまでもない治療可能な、しかし生きる意志の希薄な人（ひねくれ者なので両者にとって対象外になる患者・クライアント）の安楽死の選択についてドクターキリコと対立する物語を描くかな。根底にあるのは、社会の偏った「いのち輝く」価値観と安楽死制度によって市民が自死に誘導される問題。
２．
僕はサリーとアンの課題の正答というのは、
「サリーはまず自分がボールを入れた箱を探すけれど、見つからず、アンがいたずら（サリーのアンの認識によっては意地悪などもありうる）したに違いないと考えて、他の所も探す」
みたいな感じだと思う。
もちろんどこを探すかと問われたら
「自分がボールを入れた箱を探す」と答えるだろうけど、多くの人は言語化しないだけで、その後にアンが別の場所も探すだろうという予感を自然と持つはず。それは言葉はあまり関係なく、もの凄く単純に自分がそうするからサリーもそうするだろうという自身の経験が導く主観的な共感によるものだったりするのだろう。
僕が考える心の理解というのはそこまで含めたもので、サリーとアンの課題の正答と言われるものは、適切にパースペクティブを定義できたら合理的・論理的な思考によって導かれるものにすぎないと思う。
番組ではAIが暗黙知を理解しているようなことを述べていたけれど、そうなるとこのタイプのAIは、資本主義社会、民主主義社会の中ではそのアウトプットにおいて資本主義社会、民主主義社会のバイアスがかかるがかかると言うことだろうか。
脳科学では、言語を共感的に認知しているときとそうではないときでは使用している部位が異なるらしい。しかしAIにはその違いは生じないし、バイアスがあっても人の主体的な情報の選り好みによるそれとは異なって、単なる与えられる情報の偏りなのだろうから、修正も又簡単なのかもしれない。
というか、近々AIの進歩によって、資本主義のパースペクティブ、民主主義のパースペクティブに沿ったアウトプットもできれば、他の異なる主義のパースペクティブのアウトプットも、さらに言えばもっと高次主義を生み出してその視点によるアウトプットを行えるようになるのだろう。
もの凄く蛇足になるが、人がAIは人を滅ぼすなどというときに期待しているのは、その高次の主義のアウトプットが自分のアウトプットと一致すると言いたいのだろうけど、それは高次の主義のアウトプットの前提をどうするかだろう。一部の人の為だけではない人間全体の為のAIなら天賦人権論などを絶対の条件とすることもできるわけで。
ちなみに、AIで心理学をやるなら、ポール・エクマンの微表情やボディランゲージみたいのを読めるAIを作って、政治家などの言動を監視する一つの指標を示してくれるツールが欲しい。あ、非言語的コミュニケーション群だからこの番組の趣旨と正反対か。
あと対話型のAIには、自分のバイアスなどを監視する機能を期待している。バイアスについても知識を持っていてもバイアスからは逃れられないというのが僕の考えなので。しかし使うとしたらバイアスを排除する為ではなく、バイアスを安定させる為のツールとしてかな。作る気になる人がいればこれは近い未来に作られるとこの番組を見て感じた。
３．
知能と体（実際の経験）を結びつけているのは、上記の僕の違和感を和らげてくれた。人間の知能は人間の体の影響を受けていると思う。
ただ先生が「風が吹いて心地よい」というような喩えの話をしていたけれど、その話で重要なのは「吹いている風を実際に体験すること」ではなく、「吹いている風を実際に心地よく感じること」だと思う。
心地よく感じるということもまた身体性ではあるんだけど、風の場合だと適切な体温を維持すると言うような本能的なものと結びついているはずで（寒ければ風に当たる面積を少なくするような行動を取るだろう）、やっぱ本能や知的好奇心や身体的個性などを実装、言い換えれば、人の知能を駆動させているものを実装する必要がある気がする。
胎児の事例も興味深かったけれど、僕としてはそれは「ああ、胎児って外界に出て生きる準備、成長をしっかりしているんだ」という感じだった。
先生が胎児期のそれによって、真似る云々というような話をしていたけれど、これも先述のように「じゃあなぜ真似るの？」「真似て何を得るの？」というところが疑問になる。
これは完全に大人の立場の話になるけれど、自分の真似をする乳児に感じるには一体感を感じる。仮に乳児が大人の真似することによる効能の一つにそのような共感があるとして、そういう合理的、論理的な背景を持たない、欲求を背景とする能動的な行動が結果的に齎す学習と発展というのが人間的な知能の重要なファクターではないだろうか。言語の習得もそういうものだと思っている。
4．
番組で取り上げられた、AIは全体的に欲求という知能に関する重要なファクターがすっぽり抜け落ちていると思う。抜け落ちているというか、それを考える段階ではないと言うことなんだろうけど、それならそれで現在のAIの状況について盛りすぎのように感じらる。
それと、もの凄く失礼で上から目線から物言いになってしまうけれど、自分を知りたい、人を知りたいという動機の割に、知能について客観的、メタ的な視点を持って徹底的に掘り下げる文系的、哲学的な探求が欠けているのではないかという気がした。
先生方の「AGIを作りたい」「自分を知りたい」「人間を知りたい」という気持ちがなければ、先生方の知能はそのような方向の創造に向けられていないのですよ。僕はそれがもの凄く重要だと思う。
AIの進歩には目を見張るものがあるし、興味深いし、社会に色々変革をもたらすだろう、こんなツールが子供～若いときにあれば……とも思うけれど、同時に、ああこれならAIにアイデンティティを奪われることは当分ないなというのが番組を見た感想になるだろうか。
