AIに人生の選択を任せたら幸せになれる？
SF作家長谷敏司さんと考える

私は、パナソニックの研究所で太陽電池やバッテリーなど新素材の探索に携わっています。工業製品の素材の多くは複数の元素から構成されており、新素材の発見は「新しい元素の組み合わせを見つけること」とも言い換えることができます。仕事現場で私が頼りにしているのがAIです。AIは、たくさんの選択肢の中から設定した目的に最適なものを選び出す能力に長けています。

科学の領域に限らず、AIは私たちのくらしの中でも活躍しています。ネットショッピングや動画配信、さまざまなサブスクリプションサービス、転職サイト、マッチングアプリなどに使われるレコメンド機能の多くに、ユーザーの嗜好や性質により合わせた候補を提示するために、AIは存分に活用されています。

仕事でもプライベートでも、AIが間違いない選択肢を私たちに示してくれるようになったら、膨大な選択の決断に悩まされることが減り、より幸せな日々を送れる気もします。

一方で、AIにあらゆる決断を委ねられるようになったとして、それは果たして「私らしい人生」と言えるのか——という疑問も残ります。仮に、AIが示唆する「幸せになれる選択」に従うだけの日々になったとして、私たちはそのくらしに幸せを見いだせるのでしょうか？

今後、社会の至る所に便利なAIがどんどん入り込んでくることは明白です。日進月歩のAIとどう付き合っていけば、私たちの幸福感を損なうことなく、その良さを仕事やくらしに生かしていけるのか。AI過渡期の今こそ、この問いについて真剣に考えてみたいと思いました。

そこで訪ねたのが、SF作家の長谷敏司さんです。長谷さんはAIを扱う小説を数多く発表し、人工知能学会倫理委員会にも所属するなど、人とAIの関係性を問い直し続けてきた方です。そんな長谷さんと、「幸せなくらしを紡ぐための、AIとの付き合い方」についてじっくりと語り合いました。

本日はよろしくお願いいたします。長谷さんは数々のSF小説を執筆されていますが、どのようなきっかけでSF小説を書き始められたのでしょうか。

きっかけは僕自身の病気でした。24歳ぐらいのときに突然、潰瘍性大腸炎という難病にかかってしまったんです。そのせいで「これからどんなふうに生きていけばいいのか」という未来の見通しが、急に不透明になったんですね。

誰かに相談できればよかったのですが、当時の僕の周りには、この病気のつらさを理解してもらえそうな相手もいなくて。それで、ひとり不安に押しつぶされそうになっていました。

それはおつらかったですね……。

そこで、思いついたんです。普通に生きていく未来を描けなくなったことが怖いのならば、「普通じゃない未来」をシミュレーションする力を養えば、生きてゆけるようになるのでは、と。

どんなにしんどい現実が目の前にあっても、その先のあらゆる可能性を想像できるようになって、少しでもマシな未来が存在すると信じることができれば、絶望せずに済むのではないか――そんなふうに考えて、僕は自分自身のためにSF小説を書き始めたんです。

なるほど。私は勝手に「スターウォーズが好きだったから」といったような答えを想像していたのですが、そんな切実な理由があったことに驚きました。

もちろん、昔からSF作品が好きだったという背景もあります。だからこそ、今こうして仕事になっているのだと思いますしね。

長谷さんの小説の多くには、重要なモチーフとして、人間の知能を超える高度に発達したAIが登場しますね。長谷さんは基本的に、人間よりずっと高い知能を持ち得るAIは、人間社会でどのような存在であるべきだと捉えていますか。

僕の作品では共通して、AIを「人間が使う道具」として描いています。

高度に発達したAIは、人間のような自律的な振る舞いが可能になるでしょう。ただし、それがどんなに本当の人間らしく見えたとしても、その立場は自動車や洗濯機などと一緒です。誰かから与えられた目的の範囲内でのみ稼働します。

AIをどんな目的でどのように用いるのかを判断し、結果に責任を取るのは、常に人間であるべきだと考えています。この判断・意思決定の部分に、人間がAIに譲るべきではない「聖域」があると思っているんですね。

その聖域を守るためにも、AIを「道具」以上の存在にしてはならない、ということですね。とても興味深いお話です。そんなAIが、私たちの社会を具体的にどのように変えるのか、長谷さんの見立てをぜひ詳しくお聞かせください。

まずは、AIが仕事にもたらす影響についてお聞きしたいです。私も業務でAIを活用しているのですが、AIの「多数の選択肢の中から最適な答えを見つける力」は、本当にすごいなと感じています。これがもっと発達していくと、私たちの労働環境はどのように変化していくのでしょうか？

大きく変わりそうなのは、人材管理の領域だと思っています。具体的に言うと、雇用主が「目指す成果」に向けたベストチームの編成を目的として、AIを運用するケースが増えていくでしょう。

AIに人材管理を任せれば、会社の現状に応じて、どのような能力を持った人材が必要なのかを的確に判断してくれる。おそらく近い将来、人材管理にAIを活用する会社は、活用しない会社よりも平均して高いパフォーマンスを上げるようになると予測できます。

ということは、AIによる人材管理が進めば、私たちの労働環境はより豊かになっていくと？

いえ、そうとも言い切れません。ここまでは、あくまで「雇用主側は会社のためにAIをこう活用する」というお話です。「雇用される側」の立場からこの変化を捉えると、状況は変わってきます。

AIによる人材管理は、目的達成のための指標として扱いやすい「数値化できる能力」での評価に偏重しやすくなります。結果として、労働者側からすると「能力だけシビアに評価されている」「歯車として扱われている」と感じやすい組織づくりになる可能性が高いです。そういった会社に、労働者は愛着を持ちづらくなっていくでしょう。

そう聞くと、少し寂しい気持ちになりますね。

一方で、数値化しにくい「働きがい」や「自分にあった雰囲気」を強く求める労働者は、一定数存在し続けるはずです。むしろ、AIが管理する能力主義的な会社が増えれば増えるほど、その反動で「愛着を持てるような職場で働きたい」という人は増えるかもしれませんね。

長谷さんのおっしゃる「数値化できない“愛着”や“働きがい”」とは、どのようなところから生まれるものなのでしょうか。

ものすごく特殊なことが必要なわけではありません。ちょっとしたフォローに対して「ありがとう」と言ったり、「頑張っているね」と褒め合ったりと、些細なコミュニケーションの積み重ねから生まれてくるものだと思います。AIによって労働現場が最適化されていくと、こうしたやり取りはよほど意識していかないと、無駄なものとして省かれていってしまうでしょう。

スピードやフレキシビリティと比べて、職場コミュニティを良好に保つことは計量して数値化するのが難しいからです。けれど、コミュニティの価値は小さくはなくて、職場の人間関係が原因で職を離れるというケースはふつうにあります。

数値化できない要素を、いかに生身の人間が現場で拾い、評価し合えるか。それがAI時代の職場において、人が幸せを感じながら、いきいきと働くためのカギになっていくと思います。

「AIに選択を任せることで、数値化しにくい人間の“思い”の部分がおいてけぼりになってしまう」という事態は、今後、さまざまなくらしのシーンでも起こり得そうだなと感じました。

そして、“思い”がおいてけぼりにされたら、それがどんなに良い結果を生んだとしても、人は幸せを感じにくいのではないかと、お話を聞きながら考えていました。長谷さんは、AIが今よりも広く深く人間のくらしに入り込んできたら、私たちはより幸せになれると思いますか？

そうですね……。AIは道具であって、その道具を「幸せになること」の目的で用いれば、私たちは確実に幸せに近づけるでしょう。ただし、そこで満たされるのは「数値化できる幸せ」に限られます。

AI内部では数値計算をして幸せの答えを出すから、ですね。

しかし、人間にとっての幸せは、数値化できる要素ばかりではないはずです。そして僕は、仮にあらゆる幸せが数値化できたとしても、「数値化できない幸せ」の領域を確保しておかないと、人生はつらいものになるのではと考えています。

それはどういったことを言うのでしょうか？

幸せをすべて数値化できた場合、AIは、ある人間が生まれたときから死ぬまでの「幸福が最大化されるルート」を弾き出せてしまうことになるんですよね。

それは、これまで人類が育んできた人生観を、根本から大きく揺るがすことになる。自分以外の何かに「歩むべき未来」をはっきりと示されてしまうことに、みずからの知能の基盤を野生動物から進化した脳に持つ人間は耐えられないのではないかと思っています。大脳皮質は教育による社会化を受け入れて順応できても、情動を処理する大脳辺縁系のような古い脳は衝突を避けられないでしょう。

確かに、そこにどれだけ「数値化できる幸せ」が担保されていたとしても、何かによって定められたルートをなぞる人生になってしまったら、生きる意味を見失ってしまいそうだなと感じます。

人が人間らしく生きていくために必要な「数値化できない幸せ」とは、一体どのようなものなのでしょうか？

「数値化できない幸せ」は、価値を判定する権利そのものに宿ります。外側の基準に左右されず、「あなたにとっての価値、好き嫌い、幸せは、あなた自身が決めていい」という権利ですね。さきほどの脳の話でいうなら、大脳辺縁系が関わる情動が働くことが社会からの疎外につながらないこと、とも言えると思います。これこそが、どんなに科学技術が発達しても、人間が手放してはならない最も大切な「聖域」だと思っています。

「『価値を判断する』のは人間の聖域である。その聖域を守るべきだ」というメッセージを込めて、長谷さんは作品で「AIは自らの意志を持たない道具だ」という世界観を貫いているのですね。

そうなんです。僕個人としても、AIにすべて委ねてしまう社会ではなく、AIを道具として利用する社会であってほしいなと願っています。そのほうが人間の多様性が生かされるし、面白い世の中になると思うんですよね。

僕は、「次に何が起こるか、何が出てくるか分からない」という意味で、人生はガチャに似ているなと捉えています。どのガチャを回すかは選べるけど、結果は選べない。この例えを用いるならば、AIは、事前に「目的＝当たり」を設定することで凄まじい回数のガチャを高速で回して、当たりを出してくれるような存在です。

なるほど。

けれども、ここで「はずれ」として切り捨てられてしまうものが、果たして本当に「はずれ」なのか、という問いが残ります。目的の設定のほうが少し違ったら、それはもしかしたら「大当たり」になっていたかもしれません。

その視点にはとても共感します。私が携わる素材開発の分野でも、「ある用途に最適な素材を研究している過程で、まったく別の用途で使える画期的な新素材が生まれた」というケースがしばしば見られます。こうした本来の目的から外れた発見は、人間が多様な視点を持っているからこそ見いだせるものですよね。

そうですね。多くの人が「はずれ」だと判断するものでも、視点を変えて「当たり」にしていける。「当たり」とまではいかなくとも、工夫してそれなりにうまく活用する――そうした多様性を生み出すことができるのが、人間のいいところだと思います。「当たり」をはっきりと決めすぎないほうが、幸せの間口はきっと広くなるはずです。

これからAIが社会に浸透していく中で、私たちが「数値化できない幸せ」を守っていくためにはどんな意識を持っていけばよいでしょうか。半径5メートルのくらしの範囲で、AIに判断を委ねすぎないように気をつけるべきことがあれば、ぜひ教えていただきたいです。

まず、ユーザーとして「AIに対して興味を持ち、理解すること」が大事だと思います。

社会に実装されている場合、どんなAIも、実装者が設定した目的に従って動いています。どこにAIが使われていて、誰のどんな意図で動いているのか、知ろうとすることが重要ですね。

理解した上で、それが自分にとって「良いもの」と判断できるかをしっかり考えると。

それが理想です。知ろうともせずに「誰かに操られるのはイヤ」とすべて跳ね除けてしまうのも、もったいないですからね。それに、跳ね除ける理由が感情だけでは、運用されているAIシステムに本当に問題がある場合でも、それを適切に止めるパワーにはなりにくいと思います。

あわせて、AIの実装者や実装された商品を販売する側が、「このAIは、このようなデータをもとに、このような判定をしています」とユーザーにきちんと説明できることも、健全なAI社会にとっては不可欠です。

たとえば、AIが内部的にどんな計算によってその判断に行き着いたかを、辿ってゆくのは大変です。けれど、そのAIシステムがどんな要望から、その意図をどんな仕様にまとめて設計されたかは、説明できます。そして、その情報が透明性をもって公開されていることが、AI社会の健全な発展のために大事だということです。

知らぬ間にたくさんのAIに頼っている私たちにとって、「AIに興味を持って理解しようとする」ことは、シンプルながらとても大切だと感じました。

AIは今後もどんどん進歩していきます。だからこそ、私たちもその仕組みを学び続ける必要がありますね。「学ぶこと」は、人間の価値判断を形成し、更新していく上で、最も重要な行為です。

社会の移り変わりに応じて、判断に必要な知識も変わっていきます。「人生の価値判断に必要な基本の学び」のすべてを、学校だけは到底まかないきれません。AIのことに限らず、「自分のくらしを、自分の判断できちんと紡いでいく」ために、生涯学び続ける姿勢を保っていきたいですね。

時代は変わり、技術もどんどん進歩するからこそ、学び続けることが重要。それが「数値化できない幸せ」を司る価値判断の軸を育てることにつながるのだなと痛感しました。貴重なお話を、本当にありがとうございました！

取材前、私は「AIがすべてを決めて、それに従うだけの人生は幸せか？」という疑問を抱いていました。ただ、私自身、仕事でAIに大いに助けられていることもあって、AIが最適な選択を示してくれることは、どちらかと言えば好意的に捉えていました。

今回、長谷さんへの取材を通して、どんなに優秀なAIであってもそれは「道具」であり、AIがすることはあくまで「サポート」と認識すべきだということに気づきました。

道具であるAIとうまく付き合っていくための重要な視点も、長谷さんから教えてもらいました。それは、私たちの「価値」や「興味」を自分自身で選択する、ということです。

私も研究者として、AIだけではたどり着けないオリジナルの発想を生み出していきたいと考えています。そのために、AIに提示された結果をうのみにするのではなく、私自身の「価値」や「興味」を軸にして、AIが見落とした可能性を掘り起こしていきたいです。

「自分のくらしをきちんと紡いでいくためには、生涯学び続けることが大事」――これから、この長谷さんの言葉を忘れずに、自分の価値判断の軸を正しく更新し続けながら、AIや他者に左右されすぎない、自分らしい生き方を模索していきたいと思います。

皆さんは、「自分がするべき決断」とはどんなものだと思いますか？　どんな決断なら、AIに任せてもよいと感じるでしょうか？ Twitterで「#決めるのはわたしかAIか」を付けて、ぜひシェアしてみてください！

『q&d』編集部が問いと対話をより深めていくq&dラヂオでは、SF作家の長谷敏司さんとお話しした時のことを振り返りながら、これからの仕事やくらしにおける「AIとの幸せな付き合い方」について、改めて考えました。