2024年、音声クローン技術が一般消費者向けの機能となりました。モデルに5分間のクリアな音声を学習させれば、どんな言語でも、いつまでも、何でも話せるようになります。それから2年の間に、「AI先祖」と呼ばれるサービスのカテゴリーが登場しました。これは、生前の録音データをもとに作成された、亡くなった愛する人のAIバージョンと家族が会話できるツールです。
私たちは、こうしたサービスのひとつを開発しています。また、その多くが現在どのような形で構築されているかについて、公の場で異議を唱えてきました。ここでは、倫理面における私たちの立場、そして責任ある実装とはどのようなものかについて、率直な見解を述べさせていただきます。
問題になり得る3つの点
1. 得られなかった同意
現在生きている祖父母のほとんどは、古いホームビデオから自分の声が再現されるなどとは想像もしていませんでした。彼らが録音した当時はその概念が存在しなかったため、音声クローンに同意したわけではありません。そこで当然の疑問として浮かぶのは、今、彼らをクローン化するかどうかを決めるのは誰なのか、ということです。
現在市場に出回っているほぼすべての音声クローンサービスにおいて、その答えは「録音データを所有している者」です。これは倫理の問題ではなく、単なる「アクセス権」の問題です。父親のボイスメールを所持している息子であっても、父親の同意を得ているわけではありません。
2. 記憶と偽られた幻覚
音声に紐付けられた大規模言語モデルは、もっともらしいことなら何でも言うことができます。もし、AIによって再現された父親に「ジェニファーと結婚すると言った時、どう思った？」と尋ねれば、システムは流暢で、感情的に納得のいく答えを生成するでしょう。それは実際の資料に基づいているかもしれませんし、でっち上げられたものかもしれません。現在のサービスのほとんどは、その区別をつけていません。
その結果、あなたは父親自身の意見ではなく、AIが作り出した父親像に対して悲しみを抱くことになりかねません。
3. 商業的および政治的な利用
音声モデルが存在すれば、それは流出したり、盗まれたり、売買されたり、あるいは召喚状によって提出を求められたりする可能性があります。今日、悲しみに暮れる娘が使用している声が、明日は詐欺師に、その翌年には選挙運動に利用されるかもしれません。こうした事態を想定して設計されていないサービスは、そのリスクを十分に理解していない家族に、実際のリスクを転嫁していることになります。
責任あるサービスとは
同意は明示的であり、記録され、撤回可能であること
対象者――つまり、声を複製される本人――が自ら同意の声明を録音しなければなりません。成人した子供でも、遺族でもありません。対象者自身です。本人の声で、記録に残る形で、同意する旨を述べる必要があります。
その録音はモデルと共に保存され、モデルを呼び出すすべての人に表示されます。対象者はいつでも同意を取り消すことができます。もし対象者が同意の録音を一切行わずに亡くなった場合、誰が依頼しようとも、声のクローン作成は許可されません。
死後のルールは生前の意思を反映します
対象者が生前に同意していた場合、その音声モデルは、対象者が合意した範囲（家族限定、非公開、商用利用不可など）に厳密に従って機能し続けます。生前に利用を拒否していた場合、いかなる家族もその決定を覆すことはできません。死亡診断書は、同意のアップグレードにはなりません。
AIの出力はソースに紐づいています
再構築された音声から生成されるすべての文は、被験者から記録された特定の回答に紐づいています。質問内容が被験者が過去に話したことのない範囲である場合、システムはその旨を伝えます。答えをでっち上げることはありません。「分かりません」というのは、失敗モードではありません。それは機能なのです。
トレーニングは一切行いません。
ご家族の声やコンテンツは、いかなる公開AIモデルのトレーニングにも使用されません。当社のものでも、当社のベンダーのものでも、研究コンソーシアムのものでもありません。これは、訴訟の対象となり得る契約上の確約であり、単なる宣伝文句ではありません。
ご要望による破棄
音声モデルに収録されたご家族の方は、そのモデルの永久的な破棄を請求することができます。身元確認後、24時間以内に実行いたします。異論は一切受け付けません。保存方針に関する議論も、「でもご兄弟は…」といった言い訳も一切ありません。私たちは実行します。
そもそもこれを行う意義
上記をお読みになり、「責任ある答えは、音声クローン技術を一切開発しないことだ」と結論づけられるかもしれません。私たちもこれを慎重に検討しました。しかし、私たちはそうは考えませんでした。その理由は以下の通りです。
悲しみに暮れる家族は、人類の歴史を通じて、できる限りのものを保存してきました。手紙。日記。動画。写真。追悼の肖像画。声のアーカイブ——その人自身に最も近いもの——は、その長い伝統の延長であり、逸脱ではありません。問題は、家族が愛する人の声を残そうとするかどうかではありません。問題は、彼らが利用できるツールが、責任を持って構築されるのか、それとも無責任に構築されるのかということです。
私たちは、この分野をボイコットして無責任な者たちにその定義を委ねるよりも、むしろ責任ある選択肢の一つでありたいと考えています。
私たちが決して越えない一線
「私たちは、一部の競合他社が競って開発しているような『故人のチャットボット』は作りません。誠実な追悼体験とは、交霊会のようなものではありません。」
これは、当社の公開文書『Trust & Ethics』からの一節です。これは抽象的な話ではありません。まるでその人が生きているかのように、新たな質問に答えるふりをする会話型AIを構築しないという、具体的な設計上の選択なのです。私たちが構築しようとしているもの、そして実際に構築しているのは、故人が実際に語った言葉を音声で伝えるアーカイブであり、その声を聞きたいと願う子孫たちが閲覧できるものです。
この区別は重要です。それは、図書館と交霊会の違いです。博物館とディズニーのアニマトロニクスの違いです。記憶と魔法の違いです。
お客様へのお願い
音声クローンサービス（当社のものであれ他社のものあれ）をご検討中の方は、ご契約前に以下の5つの質問を自問してください：
- 作業を開始する前に、対象者本人が記録に残る形で同意しましたか？
- 対象者（またはその遺族）は、同意を取り消すことができますか？
- AIの出力は特定のソース素材に紐付けられていますか？
- その音声モデルは、他のシステムのトレーニングに使用されていますか？
- もし会社が買収されたり、事業を停止したりした場合、そのモデルはどうなりますか？
もしサービスがこれら5つの質問すべてに明確に答えられない場合は、そのサービスを利用しないでください。どのサービスを選ばれるにせよ、上記の質問こそが、10年後に振り返った際に、はっきりとあなたを突きつけることになるでしょう。