Image Credit:Digital ‘immortality’ is coming and we’re not ready for it
1990年のファンタジードラマ「真実、無二、深く」では、主人公のニーナ（ジュリエット・スティーヴンソン）が最近亡くなった恋人のジェイミー（アラン・リックマン）に対する深い悲しみにさいなまれています。ニーナの深い悲しみを感じ取ったジェイミーは、彼女が喪失の過程を乗り越えるのを助けるために幽霊として戻ってきます。映画を見たことがある人なら分かると思いますが、ジェイミーの再現は彼女が彼を思い出すことに疑問を抱かせ、結果として彼は彼女が思い出していたよりも完璧ではなかったかもしれないと受け入れるようになります。現在、AIを基にした「悲しみのテクノロジー」が登場し、私たちは死んだ人との時間をさまざまな形で過ごす機会が与えられています。しかし、ジェイミーがニーナを善意で誘導したのとは異なり、私たちは人工知能によって生き残る者のバージョンを提供されるよう求められています。そこに何が起こる可能性があるでしょうか？
ChatGPTやMidjourneyなどの生成ツールがAIの議論を席巻していますが、私たちは広範な倫理的な問題、例えば悲しみや喪失についての問題を広く無視しています。ファッションで見かける事はありますが、死者について考えることはあまりありません。もしこの技術をまだ遠い未来のことだと思っているなら、それは間違いです。少なくとも1つの企業がすでにデジタル不死を提供しており、それは驚くほど高価で不気味なものです。
例えば、Deepbrain AIという企業が提供するサービスの一つである「Re;memory」は、その主要な事業がAIニュースアンカーや「バーチャルアシスタント」タイプのインタラクティブなスクリーンである韓国の企業により提供されています。この韓国の会社は、チャットボットと生成AIビデオを結婚させる経験を活かし、ただの10,000ドルと数時間のスタジオで、あなた自身のアバターを作成し、あなたの家族がオフサイト施設で訪れることができるようにしています。Deepbrainは韓国に拠点を置いており、韓国の喪失の伝統には「ジェサ」と呼ばれる年に一度の故人の墓参りが含まれています。
現時点では、会社自体も認めているように、このサービスはあまり深い感情を再現することを主張していません。トレーニングセットは実際にアバターに1つの「気分」を持たせることしか許していません。Deepbrainのビジネス開発・戦略リードであるマイケル・ヤングは、Engadgetに対して、「もし私が非常に面白いマイケルになりたかったら、300行の非常に興奮した声や面白い声を読まなければなりません。それから、テキストを（アバターに）入力するたびに、非常に興奮したマイケルになります。」と述べています。Re;memoryは現在、対象者の真の模倣を作り出そうとしているわけではありません。これは時折訪れて基本的な対話をすることができるものですが、仮想的なホテルのフロント係以上のキャラクターがあることを期待したいと思います。
Re;memoryは質問に応答することができるビデオアバターとしての利点がありますが、音声ベースのHereAfter AIは、さらにあなたの個性を引き出すために一連の質問を行います。その結果、友人や家族が口頭での回答や過去の物語や逸話を受け取ることができる音声チャットボットが作成されます。定番のチャットボットは、オーナーの声で説得力のある回答を提供しますが、「申し訳ありません、それは理解できませんでした。別の方法で質問してみるか、他のトピックに移ることができます。」と回答しない限り、何かに回答がない場合はロボット的に応答します。
これらの技術が現実的なアバターを作り出すかどうかは主要な関心事ではありません。AIは急速に進化しているため、確実に向上するでしょう。難しい質問は、あなたがなくなった後、このアバターを誰が所有するのかということです。また、あなたの思い出やデータは安全で保護されているのでしょうか？そして、私たちが残された人々にどのような影響を与えることができるのでしょうか？
Joanna Bryson氏は、Hertie School of Governanceの倫理とテクノロジーの教授として、現在の悲しみのテクノロジーの波を若者がより一般的に利用していたFacebookと比較しています。当時、亡くなった友人を追悼するための共通の場所としての機能があり、それは感情的な影響を与えました。「それは新しい、直接的なコミュニケーションの形だったので、子供たちは彼らが亡くなった友人がそれを読んでいると本当に信じていました。そして、彼らは『知ってる、あなたがこれを見ているんだ』と言っていたんだ。」
AIアバターがもたらす固有のエクストラディメンションは、これらの創造物が私たちの喪失の脳に与える影響についての懸念を煽り立てます。「あなたの人生に何をもたらすのか、あなたがあなたの時間を思い出に費やしているのは何だろうか…それをしばらくの間処理するためにも良いかもしれません。しかし、それは不健康な執着心になってしまう可能性もあります。」
Bryson氏は、この
1990年のファンタジードラマ「罪と罰」では、主人公のニーナ（ジュリエット・スティーヴンソン）が最近亡くなった彼氏のジェイミー（アラン・リックマン）の死を悲しんでいます。彼女の深い悲しみを感じたジェイミーは、彼女が喪失を受け入れるのを助けるために幽霊として戻ります。映画を見たことがある人は分かると思いますが、彼の再登場によって彼女は彼の記憶に疑問を抱かざるを得ず、結果として彼は彼女が思い出していたほど完璧ではなかったかもしれないと受け入れることになります。2023年の現在、AIを基盤とした「喪失テクノロジー」の新たな波が私たちに故人との時間を過ごす機会を提供していますが、ジェイミー（ニーナを善意で誤導した）とは異なり、私たちは人工知能によって生き残った人々のバージョンを提供されるよう求められています。何が間違う可能性があるでしょうか？
ChatGPTやMidjourneyといった生成型ツールがAIの話題を席巻している一方で、私たちは広範な倫理的な問題についてあまり議論していません。たとえば、Re;memoryというサービスはDeepbrain AIによって提供されており、この会社の主力事業には「バーチャルアシスタント」タイプのインタラクティブスクリーンとAIニュースキャスターが含まれています。この韓国の企業は、チャットボットと生成型のAIビデオを組み合わせるという経験を活かしました。たった1万ドルと数時間のスタジオで、ご家族がオフサイトの施設で訪れることができる自分自身のアバターを作成することができます。Deepbrainは韓国に拠点を置いており、韓国の喪失の伝統には「ジェーサ」という年に一度の故人の供養が含まれています。
現在、このサービスは、会社自体の言葉によると、個人の人格をあまり深く再現することは主張していません。トレーニングセットによってアバターが本当に「気分」を持つことができるようになるだけです。マイケル・ヨンというディープブレインのビジネス開発戦略責任者はEngadgetに対して、「もしも私が非常にエンターテイニングなマイケルになりたいなら、300行の非常にハイパーボイスやエンターテイニングな声を読まなければなりません。それからアバターにテキストを入力するたびに、とてもエキサイティングなマイケルになります」と語っています。Re;memoryは現在、真の模倣を作り出そうとはしていません。それはたまに訪れて基本的な対話をすることができるものです。ただ、バーチャルホテルのフロント係以上のキャラクター性があるといいですね。
Re;memoryは、質問に対応できるビデオアバターの利点に加えて、音声ベースのHereAfter AIは、一連の質問によって少しでも個人の人格を捉えようとしています。その結果、友人や家族が過去の話や逸話を含む発話の回答を受け取ることができる音声ベースのチャットボットが作成されます。報告によれば、事前に訓練されたチャットボットは所有者の声で説得力のある回答を提供しますが、「申し訳ありません、その点について理解しませんでした。他の方法で質問するか、他のトピックに移ってみてください」と答えられない質問に対してはロボットのように応じます。
これらの技術が現実的なアバターを作り出すかどうかは主要な関心事ではありません。AIは非常に急速に進化していますので、確実に改良されるでしょう。難しい問題は、このアバターが自分が亡くなった後も誰の所有物になるのか、または自分の思い出やデータが安全で保護されるのか、そしてこのすべてが遺された人々にどのような影響を与える可能性があるのかということです。
エチックスとテクノロジーの教授であるジョアンナ・ブライソンは、現在の喪失テクノロジーの波を、若者により人気のあるFacebookの場合に喩えています。当時、亡くなった友人を追悼するための一般的な場所でしたが、その感情的な影響は印象的でした。「それは新しい形の直接的なコミュニケーションであり、子供たちは彼らがいなくなったことを信じられなかった。そして彼らは本当に亡くなった友人がそれを見ていると本気で信じていた。そして彼らは『知ってるよ、君がこれを見ているんだ』と言っていた」と彼女は言います。
AIアバターが持つ固有の追加次元は、これらの創造物が私たちの悲しむ脳に与える影響に関する懸念をさらに煽っています。「それは人生にどのような影響を与えるのでしょうか。人々が自分の時間を過ごすのはいいことかもしれませんが、それは不健康な執着心に発展する可能性もあります」とブライソンは述べています。
ブライソンはまた、この同じテクノロジーが元々意図された方法以外でも使用され始める可能性があると述べています。「もしあなたが十代や10代前半であり、あなたが友達と電話で話す時間を全て使い果たすとしましょう。そしてあなたが自分のベストフレンドとジャスティン・ビーバーのような [AI] の合成の方が好きだと気付いた場合、あなたは実際のベストフ
引用元記事はこちらDigital ‘immortality’ is coming and we’re not ready for it