Forum Report

「あらゆるヒト・モノ・コトがつながることで、私たちのコミュニティはどう変わるのか?」
第1回会議 レビュー③

第1回会議では、「コミュニティの未来」と「働き方・暮らし方の未来」の2つのテーマについて、各界で活躍する有識者の皆さんが議論しました。今回は、第1回会議前半のテーマである「コミュニティの未来」についての討論をレポートします。ここでは「あらゆるヒト・モノ・コトがつながることで、私たちのコミュニティはどう変わるのか?」という問いかけに対して、活発な意見が交わされました。

NEC未来創造会議メンバーの写真

第1回有識者会議参加メンバー

ソフィアバンク代表

藤沢 久美 氏

ファシリテーター

慈眼寺住職 大阿闍梨

塩沼 亮潤 氏

アーティスト

スプツニ子! 氏

SF作家

長谷 敏司 氏

将棋棋士

羽生 善治 氏

ロフトワーク 代表取締役

林 千晶 氏

岡山大学文学部准教授

松村 圭一郎 氏

NEC CTO

江村 克己

ヒトは群れの中で生きる

未来のコミュニティ像を想像するにあたって、まず「コミュニティとは何か」を定義することから会議がスタート。我々の祖先にまでさかのぼって「人のコミュニティ」をひも解き、そこから変容するコミュニティの形、コミュニティへの回帰といった内容に発展していきます。

藤沢:
前半のテーマ「コミュニティの未来」について、「2050年、あらゆるヒト、モノ、コトがつながることで、「私たちのコミュニティはどう変わるのか」という問いをいただいています。でも、未来を考えるにあたって、まず本質、原点に立ち返り、「コミュニティ」とは何なのかということから考えたいと思います。

松村:
「コミュニティ」ってカタカナで書くと、ピンとこないと思います。日本語に直してみると一番分かりやすいのは「群れ」だろうと。霊長類からホモサピエンスが分かれていきますが、霊長類の中でも群れの形は全然違います。例えば、オランウータンは家族ですらバラバラに生活する一方で、チンパンジーなどは、複数の雄と複数の雌や子どもたちがひとつの群れをつくっている。ヒトもおそらくどこかで群れをつくることを選択してきたはずで、群れる動物としてヒトは生きてきたのだと思います。
ゴリラ研究者の山極寿一さんが、『ゴリラもサルもチンパンジーもみんな黒目しかない。白目があると自分の感情を読み取られてしまう。人間が白目を表に出したのは、進化の過程であえて他者に自分の感情をさらけ出すことを選んだ』とおっしゃっていて、それがヒト的な関係の作り方だなと思うんです。私たちは常に自分が思っていることを誰かに知ってほしい。そういう存在として進化してきた。ヒトとして生きている以上、群れを成すこと自体はどんな未来になってもおそらく避けられないだろうなと思います。

松村 圭一郎氏の写真

「人として生きている以上、群れを成すこと自体はどんな未来になってもおそらく避けられないだろう」

松村 圭一郎氏

藤沢:
感情は、相手がいないと見せられませんからね。人間は常に群の中で生きる存在だということですけど、塩沼さん、宗教は1000年以上もヒトを見つめてこられていて、ヒトがまさに群れる、もしくはヒトと接するわけですが、これはなぜなんですか?

塩沼:
山を歩く厳しい特別な修行というのは、たったひとりで大自然の中を歩いて自己を見つめ直すんです。ただ、私の師匠は、ひとりの修行より何人もお坊さんがいる修行道場で、いわゆる群れての修行のほうが厳しいと。なぜかというと人間は感情を持っているから。感情のすれ違い、ぶつかり合いを自分でどう処理していくかのほうが山の修行よりももっと厳しいと、『山の行より里の行』と教えてくれました。ヒトは群れることによって、お互いにコミュニケーションすることによって、内面的なものが磨かれてくるんじゃないでしょうか。

松村:
まさに学校がそうで、集まらないと教育は始まらないんですね。学校は、先生がいて生徒がいれば成り立つのではなくて、生徒の群れがいて初めて教育が成り立つ。そう考えると、おっしゃるとおり人間は群れの中で成長する存在で、その調整が一番過酷なトレーニングになるだろうと思います。

藤沢:
つまり群れる場所というのはヒトが成長する場でもある。これは人間の知恵なのかもしれない。羽生さんはいかがでしょう。将棋はひとり。だけど、相手もいる。この群れる、群れない、ひとり。どういうふうにご覧になりますか?

羽生:
私は対局でいろいろな場所へ行きますが、地域のコミュニティって明らかに変わってきているところがあるんですね。例えば、消防団で人が集まらないとか、婦人会で人が集まらないとか、そういうところで地域のコミュニティがちょっと崩れかけてきていると感じます。
技術が進んで、今まで接していなかった人や交わることがなかった人たちとの交流ができるような社会になったときに、今、まさにお二人が話されていたような、難しい、ハードルが高いとかめんどくさいとか、そういうことを本当にヒトが選んで、あえてやっていくのかどうかと。

藤沢:
今割と本質的なところのお話を伺ったのですけれども、人類として、もしくはヒトとしてのこういった前提条件がある中で、今、羽生さんもおっしゃったように、地域のコミュニティが少し崩れかけている。さあ、少し飛んでいきます。2050年に向けて、どんなふうに考えられるか。そういうのがご専門のSF作家の長谷さん、仮説を。

長谷:
今、お話を聞いていて、割と「ぼっち」傾向の強い仕事をしている自分が、あまり考えなかった視点だなと思ったんですけど、群れって厳しいですよね。例えばチンパンジーの群れだと、仲間外れになると死んでしまうんですね。そういう意味では、コミュニティの中で生きることはまさにサバイバル。我々がそのコミュニティに入らずに生きることが可能になったのは、テクノロジーのひとつの勝利であると思うんです。
ただ、我々は政治を持つようになったサルの子孫なので、コミュニティの中に喜びや達成がある。コミュニティの中で生きなければならないというのは本当に苦しいことなんだけれども、そこに勝利や達成を見いだせる。今、価値の多様化と言っているものって、割とコミュニティに戻ろうとしている。もともと、ここに集まるのがしんどかったからみんな逃げていったコミュニティに、もう一度戻ろうとしているんです。

長谷 敏司氏の写真

「一度コミュニティから逃げて生き延びる道を模索した人類が、もう一度コミュニティに戻っていく」

長谷 敏司氏

テクノロジーが広げたバーチャル世界とその課題

コミュニティとはすなわち「群れ」であり、その中で育まれる他者との関係性によってヒトが成長する場であると定義しました。その上で、群れで生きることの厳しさ、コミュニティの縮小といった問題に触れ、群れとしてのコミュニティからの逸脱と回帰といった視点が加わりました。ここからは、家族や地域といったコミュニティにインターネットが加わることによって変容するコミュニティのあり方、多様性の果てに起こり得る問題やリスクについて論じます。

藤沢:
江村さんのプレゼンテーションでもコミュニティが小さくなっているというお話があったように、これはある意味テクノロジーの進化で、コミュニティから逃げる方法をヒトは持ち始めたのだけど、でもまた戻るんじゃないかということですが、林さんはどうお考えですか?

林:
大家族があって、核家族になって、次のコミュニティの核はという中で、インターネットが出てきた。今できているコミュニティは、血筋でもなく、住んでいる場所でもない、家族という枠を超えて同じ価値観の人がインターネットを通じてバーチャルに集まり、そしてリアルにこの村に住んでこの村を変えちゃおうよ、となっている。
それはまるで、いいストーリーのようでいて、「2050年の懸念」で書いた、多様性が進んだ末にやってくる異なる価値観を持つコミュニティ間の摩擦につながっていくのではないか。本来ストレスを通じて学んでいたはずのことが、ストレスがない同じ価値観だけの中にいることで、つながる手段が逆になくなり、より分断されていくというか。みんなが自分たちのコミュニティの中心になったら、もう1回、あらゆるところでものすごくぶつかり合う気がします。
テクノロジーでぶつかり合う痛みをトレーニングするツールを作ったとしても、ヒトは痛いのも苦しいのも選ばない。テクノロジーが気持ちよく便利なほうに加速したときに、他者を理解するというトレーニングの場をどうやって担保するのかが、今後の課題になるのでは。

スプツニ子!:
インターネットもそうですが、バーチャル世界って全部プログラミングされて計算されているので、だいたい予測がつきます。私もコンピュータを触っていて、バーチャル世界ってだいたいこんなもんだなと。その分リアルワールド、例えば、森の中に行ったり、ただそこらへんを散歩したりすることが、私にとってはすごく価値のある行動になってきているんです。そこでは、サプライズに出会うので。
この間、四国で仁淀川とか四万十川を見て、「これはスクリーンセーバーじゃない。本物だ」って。石を投げたらポシャンというんですよ(笑)。計算されたものではない価値というか。むしろ私は、それを求めて自然とかリアルワールドに行く、そういう視点が出てくるのではないかと思う。

スプツニ子!氏の写真

「森に行ったり散歩したり、リアルワールドでサプライズに出会うことが、自分にとってすごく価値のある行動になっている」

スプツニ子!氏

藤沢:
自然は割と受け止めてくれるじゃないですか。投げたら石を受け止めてポシャンと言ってくれます。でも、ヒトは石を投げたら投げ返してくるかもしれない。そういう集団の場合、それでもヒトの集団に行きたくなりますか?

スプツニ子!:
アーティストとして作品をつくるときに、いろいろな人に会って話を聞くのがすごくインプットになるんです。まったく考えたことがない考えを聞けるし、いろいろなライフスタイルも学べるので。だから、人に出会う。旅のよさってそういうところにありますよね。そこに価値を見出す人も絶対増えると思うんです。

林:
そうすると、最初の議論に戻りますが、実際にリアルな川に行ってポシャンとやって「いいよね」と言う人と、そんなのバーチャルで疑似体験すればいいという人、そんなことに全く興味がない人など、いろいろな価値観の人がいろいろなまま生きていけるようになったときに、それを「格差」と呼ぶのか、「多様な暮らし」と呼ぶのか。私たちが選ぶ未来は、そうやってみんながそれぞれ好きなように生きていく方がいいじゃん、なのか、いやいやそうではなくて、なのか。どう思います?

松村:
問題はそこで、心地いいとか、これでいいと思っている感情が本当に自分が心の底からそう思っているのか、そう思わされているのか、よく分からない点ですね。人間は、自分自身の欲求を元からそこにあるというよりは、その状況によって、こういう欲求が自分の中に生じていると思い込んでいる節がある。
だから先ほどおっしゃったように、創作活動をするときに、四万十川で漁をしていた漁師さんの話を聞くとすごいアイデアがひらめく、みたいな。クリエイティビティやその喜びというのはおそらく異質なものとの偶然の出会いによって生まれるもので、心地よさの中にいたら何も生まれないと思うんですよね。ひとりでいるのが心地いいと思っていても、案外、外に出て人と触れ合うと予想外の喜びがあったりする。人間にはこういう欲求があるはずだと、異質なものに触れる回路をテクノロジーのほうが先回りして介助することになったら、問題ですよね。むしろ、プログラムされたものだけではない偶然の出会いを確保できるかというほうが、課題になりそうです。

林 千晶氏の写真

「いろいろな価値観の人がいろいろなまま生きていけるようになったときに、それを『格差』と呼ぶのか、『多様な暮らし』と呼ぶのか」

林 千晶氏

江村:
テクノロジーの答えそのものではないんですけど、今までのお話を聞いていて、リアルワールドに対する意識をもう1回持たなければいけない。今NECが行っている事業でもそういうことをすごく感じているのですが、先ほどスプツニ子!さんの言われたとおりで、サイバーの世界って何でもできちゃうんですよね。デザインもできる。でも、そこで作ったものを実世界に戻そうとした途端、そこにはたくさんの制約がある。でも制約があるということは、世の中はそれで決まっているという構造なのではないか。
だから、先ほどのみんなつながるコミュニティも、逃げているという表現がいいかどうか分からないが、その人も実際には生活していて、そこには家族もいるわけで、最後は「やっぱり自分たち生きているんだよね」というところに戻って来るでしょう。ところがテクノロジーは、どうしてもバーチャルな世界でできることに今ずいぶん寄ってしまっている。最初に塩沼さんが言われた、嫌なことに対して研究開発していないよねということにもつながりますが、バーチャルでできることばかりやっていて、本当に自分たちが生きていく中で必要なことに対してちゃんと研究開発をしているのか、問われたような気がしています。

ヒトの欲とコミュニティの関係

現在バーチャル寄りのテクノロジーが、今後リアルワールドにどうコミットしていくかといった課題が浮かび上がってきました。また、テクノロジーによって欲しいものが手に入ると、さらに欲望が増大していくのではないか。そうしたヒトの欲とコミュニティについて、興味深いお話が続きます。

藤沢:
確かに新しい道具が出てくると、私たちがより幸せだと思うことや、やってみたかったことに使ってしまうので、いいことばかりになってしまいます。

塩沼:
そこで内面的なものが上がってきます。チンパンジーにしても大自然の動物も、群れにはルールがありますよね。コミュニティには暗黙のルールみたいなものがありますが、我々地球全体として考えたときの人間の礼儀やマナー、核となるルールをしっかりとみんなが認識した上でテクノロジー開発をしないといけないですよね。ただ、どの会社も「これだ」というものをまだつかんでいないまま、単に便利な製品の開発をしているので、NECさんにはこの部分を期待しています。

長谷:
塩沼さんの「欲求を満たすと、もっと『自分が自分が』と我欲がどんどん増大していく」という話を聞いて、ちょっと頭を抱えそうになったのですが。実はテクノロジーによってできることが増えていくサイクルを加速しても、それで人間に新しい欲ができてしまって、結局満たされないということへの答えは出てこないんですよ。その中で、スプツニ子!さんが言われたみたいに、自然に向かって石を投げることで救われるとか、例えば、人に迷惑をかけないルールに則った欲が増えていくことならば、人間にとって大丈夫なものなのか。

塩沼:
そういう自分の欲求を満たす欲というのは際限がないんですね。もっともっと、となる。それを抑えるのは自分の心なんです。

塩沼 亮潤氏の写真

「人間の礼儀やマナー、核となるルールをしっかりとみんなが認識した上でテクノロジー開発をしなければならない」

塩沼 亮潤氏

藤沢:
欲って人間の本源的なものですよね。もう捨てられない。みんな、欲があって生きている。その欲というものとコミュニティの関係。これをちょっと解説いただきたいです。

松村:
そこで先ほどの閉鎖的な世界よりは多様な、あるいは複数の関係に開かれたコミュニティが重要になるかもしれませんね。かつての社会にもたぶんいろいろな人がいた。子どもたちは学校へ行ったら違う年齢の子どもたちと遊んでいたりとか、複数の通路があって閉じ込められてはいなかったと思うんですよね。今はむしろ、同質の、例えば、同じような所得層の人が同じような地域で同じような学歴の親の家庭の人が同じような学校に行く。そこには逃げ場がない均質の世界が広がっている。そういう意味では多様な群れに所属する可能性を持っていたほうがいいかなと思います。

藤沢:
そのコミュニティ=群れの中で、自分の欲が抑え込まれて、つらくなっちゃったら、はじけ飛んでいってしまう。

松村:
そこには先ほどの閉鎖的な世界よりは多様な、あるいは複数の足場があるコミュニティがあって。かつての社会にもたぶんいろいろな人がいた。いろいろな年齢の人が触れ合っていたり、子どもたちは学校へ行ったら違う年齢の違う子どもたちと遊んでいたりとか、複数の通路があって閉じ込められてはいなかったと思うんですよね。今はむしろ、同質の、例えば、同じような所得層の人が同じような地域で同じような学歴の親の家庭の人が同じところに行く。そこは逃げ場がなくなってくる。そういう意味では多様な群れに所属する可能性を持っていたほうがいいかなと思います。

藤沢:
羽生さんは、強烈に将棋コミュニティの人じゃないですか。その方がここにいらっしゃること自体すごく面白い。たぶん、未来は多くの人が羽生さんみたいに、あるコミュニティにいるんだけど、ほかのいろいろなコミュニティに所属できる可能性が必要になると思うんですけど、どうしたら羽生さんみたいにいろいろなコミュニティに所属できるのか。

羽生:
将棋の世界のコミュニティって、小さいときに始めて、基本的に転職とか人事異動はないので、ほぼ死ぬまでずっと続いていくわけですよ(笑)。そういう世界では何が起こるかというと、実は普段はそんなに密じゃないんです。だって、40年も50年も会うんだから、そんなにしょっちゅう会わない。それで何とかバランスが保たれているというところはあると思いますね。
先ほどの欲求の話なんですけど、今あるものって、結局ほとんど煩悩というか、欲求や欲望から生まれているんじゃないかと思うんです。ある種、文明が進んでいくための大きなエンジンになっているような気がするので、それそのものを否定する必要はないのかなと。ただ、限度の問題というか、程度を知ってそれを使うぐらいがいいんじゃないかなと思います。

羽生 善治氏の写真

「欲求や欲望は、ある種文明が進んでいくための大きなエンジンになっている。それそのものを否定する必要はない」

羽生 善治氏

AIがもたらす格差と公平性

欲とコミュニティの関係については、ヒトは欲望を他者との関係性の中で抑制しようとする。それこそがコミュニティの役割のひとつというお話がありました。また、複数のコミュニティに所属する可能性についても言及がありました。しかし、多様化するコミュニティの中で、懸念されるのが「格差」の問題です。この問題について、テクノロジーにどんなことができるのか、熱い議論が展開されました。

藤沢:
皆さんに(2050年への期待と懸念の)メモを書いていただいたときに「格差」という懸念があって、確かに心地いいコミュニティにみんなが所属できる環境は増えていくかもしれません。ただ、所属すればするほど、そこに格差や優劣というものが起きてくるんじゃないか、社会全体にもコミュニティ同士での争いとか、いろいろな形で格差が生まれるのではと素朴に思うのですが、この格差は大きくなるのか。それとも、分け合う気持ちが広がれば、その格差は小さくなっていくのかどっちなのでしょう?

スプツニ子!:
私は気を付けないと格差が増長される危険があると思っているほうで、例えば、ひとつ具体例を上げると、アメリカでは「コンパス」というアルゴリズムが話題になっています。このコンパスは、被告人が判決を待つ間に保釈をするかしないかの判断を下すアルゴリズムで、コンパスが犯罪を犯す危険性が高いと判断したら、保釈をしない。そのコンパスがスコアを付けるときに、年齢や性別など、被告人の環境100項目ぐらいを基に判断するのですが、それが非常に人種差別的な結果になっていて、黒人のほうが危険と言われやすいんじゃないかという指摘があります。
すでにFacebookの広告でも、私が30代前半の女性だからって、やたらめったら「結婚、結婚」みたいな広告が出てきて(笑)、こういうステレオタイプが、今まで人間にやられていたのがロボットやAIにやられるような未来が果たしていいのかと言ったら、全然よくないわけですよね。だから、AIの開発側がそういった意識をちゃんと持たないと、さらにステレオタイプが増長される可能性が高くなる。

藤沢:
AIが私たちに格差を促すような行動をさせてしまうかもしれない。

スプツニ子!:
そうですね。しかもAIが言っているから正しいんだろうという認識をみんなが持ってしまうと、誰もAIのステレオタイプを問いたださなくなってしまう可能性がある。それが一番怖いと思っています。

藤沢:
AIが言ってきたことに振り回される前に、自分の意思で決められるかどうかが求められると思うのですが、これは羽生さんにぜひ伺いたいです。どんどんAIが将棋の世界にも入ってきて、対局を見ていると、みんなが先にAIで調べて「羽生さん、次はこれだ」みたいな。AIが言ってきたことに対して、そのまま打たないですよね。

羽生:
打たないですね。

藤沢:
それができるのはなぜ?

羽生:
それは、つまりその判断をしているのは、結局AIも人間も同じだと思うのですが、ひとつひとつの選択肢を評価することだと思うんです。人間もこれがいいかどうか評価するときに、結構ざっくりとやっているじゃないですか。現状のAIも少なくともまだざっくりとやっていて、評価の揺らぎがあるんです。
例えば、プラス100点という評価値が仮に出たとしますよね。それはマイナス100点の可能性もあるし、プラス300点の可能性もある。だから、プラス100点という評価値が出たときに、人間的な視点でこれがどちらに振れる揺らぎなのかを見極めることが、たぶん大事になる。でも、多勢に無勢という言葉もある。いくらそこで人間が頑張っても、大きな流れにはあらがえないというのも間違いない事実としてあると思います。

藤沢:
そうすると、AIが出した答えに対して、羽生さんがこれはプラス300に寄るんじゃないと思っているのだけど、ここにいるほかの全員が「いやいや、これは100で、AIが言うとおりですよ」と言ったら、羽生さんは勝てない?

羽生:
人間的な創造は、たぶんそちらにあるんだと思うんです。マイナス300のはるか果てのほうにあると思うので。だから、創造的な人が迫害されていく社会にならないようにするのは大事なことなのではないかなとは思います。

松村:
テクノロジーが過去のデータに基づいて現在をデザインしていくような時代を考えるときに、すでにAI的なものは私たちの体と切り離せないところに入り込んでいることを意識しておかないといけないと思うんです。
カーナビなしに我々はもはや車を運転できなくなって、かつては地図を広げてよくやっていたなと思いますが、もう私たちの体はすでにテクノロジーによって一部能力を変換させられている、変形させられている。だから、常に技術というのは人間の助けにもなると同時に、人間の体自体を変形させていく。実はすでに技術は私たちの体の中に入り込んでいるという視点で考えていったほうがいいだろうと思います。

藤沢:
長谷さん、「もう技術は入っている。でもAIはもっと進化してシンギュラリティが起こって、人間を超える」となったときに、スプツニ子!さんがおっしゃるような、AIによる私たちの意識がバイアスされて格差になっていく可能性については、どう思われますか。

長谷:
AIが登場したことで、より創造的な人が、(羽生さんの言われたように)評価に揺らぎのある中でどう選ぶかということは、ひとつの人間の能力になる。例えば政治の専門家は、AIの提示した選択肢を前に揺らぎの判断を任されることになる。その選択が人間の手にあることは政治の専門家のトップエリートを教育する理由になるし、そこに創造性を発揮してもらうことは人類社会にとって必要なプランです。つまり将来、バイアスによって拡散した社会が、何の手も打てずに分断されたわけではなく、ダイバージェンスを生かす理由でこの形になったものだと言えるようにするための、全体水準の底上げは急務だと思います。
底上げは重要で、AIが生み出す富は社会の先端のほうに集中しています。この先端の富があってこそ、より広い教育などにかけられる投資余力ができるのですが、それはそれとして、拡散に対抗できる速度で底上げをしないと僕らはたぶんとんでもないものを失う。

藤沢:
結局、AIとかそういうものができることによって、専門性が高くなっていく。その専門性の高さのところに登場する人は、さらに高いところに行く。でも、一方で置いていかれる人たちもいるかもしれないし、拡散もしていく。山がたくさんできてしまう中で、その山からこぼれ落ちる人もいるかもしれない。

塩沼:
ものすごくお金持ちの人でも不満を言っている人もいれば、山の中でひっそり暮らしていても本当に毎日が幸せだと言う人もいるし、その幸せの価値観はみんな多様性があっていいと思うんです。

長谷:
そうなんです。不足が起こってしまう場所を、ダイバージェンスすら失われたものにしたくない。現在に至るまでずっとそうでしたが、貧困によって生き方のありようがコンバージェントしてしまう社会は最低だと思うので。貧しくなってしまったところ、リソースの自足ができないところにリソースをかけないと、どんどんそうなりたくない人たちが意図せざるコンバージェンスの中に押し込められていく。

林:
強制的な貧困はもちろんなくしていく仕組みは必要です。一方で、バルセロナは若者の失業率が40%なのですが、みんな「ビーチにいるのが一番お金がかからないよね」と言ってビーチで遊んでいる。私たちは必死に働いていて、どちらが幸せかは答えがないなと思うのですが、宗教的にはどちらが幸せとか、そういうのはあるんですか? 働けるときに働く、働かないときは楽しむと。

塩沼:
精神的に満たされている状態が、本当に幸せだと思うんです。私は山の中でたったひとりで修業したと、先ほど言いましたが、みんなから見たら最悪の状態じゃないですかね。毎日48キロも歩かせられて。でも、常に心がすごく満たされていたのは、自分の親やおばあちゃんが応援してくれているという愛を感じたからなんです。
これが本当の幸せだと思うのですが、人工知能には愛がないんですよ。人工知能も愛というものを中心にした考え方ができるようになるといいですよね。関西弁でいい意味の愛を「ええ愛」と言うんで(笑)。

スプツニ子!:
金銭的に豊かかそうでないかが幸せかという問題よりも、私が怖れているのは、社会のジャッジシステムが硬直化してしまうことです。
今の日本社会でも、夫婦別姓が違憲かそうではないかという裁判が起きたときに、その判決に関わった方、全員で12名でしたか、うち女性が4人しかいなくて、4人全員夫婦別姓はOKでしょうという判断をしたのに、男性側が全部NGとして、結局夫婦別姓は日本では実現されなかったわけです。
そういうことが起きてしまうのが一番の懸念。AIがそういう社会のジャッジシステムを止めてしまうこと、それが起きないように開発側が意識を持って言い続けることが大事だなと思うんです。

江村:
これは先ほど私がプレゼンした中で、社長が言った「人の意識」という問題。議論がAIから始まると、まさにそのとおりになってしまうわけです。
少し話が変わりますが、最近SDGs(Sustainable Development Goals/持続可能な開発目標)が話題になっていますが、そこには、こういう社会を作りたいという169のターゲットが書かれています。それを実現するためにどういうことをしたらいいかという中で、どうやってAIを使うか、そういうステップにしなければいけないのだけど、とにかく今あるところにAIを入れようという構造になると、まさにバイアスを残したまま入れてしまうことになる。やはり人の意思を早い時期に入れるというデザインをしないといけないと思うんです。

江村 克己の写真

「とにかく今あるところにAIを入れようとすると、バイアスを残したままになる。やはり人の意思を早い時期に入れるというデザインをしなければならない」

江村 克己

先ほど倫理の話をされましたが、倫理のことなど、そう言った社会デザインを開発の中に早めに取り入れていかない限り、人の意思をその中に入れ込むデザインができなくて、「AIが言っていますもんね」という構造になってしまう。そこのところがたぶん非常にチャレンジではないかなと思っています。

藤沢:
コミュニティというテーマで前半話してきたのですが、いろいろなコミュニティがあって、人が群れるコミュニティもあれば、会社や組織というものもコミュニティで。そういう意味では、どういうルールや倫理設定をしていくかというのが次のテーマだと思うので、引き続き深めていけたらいいなと思います。