The Ethics of AI Voice Cloning for Family Memory

Noong 2024, ang voice cloning ay naging kakayahan ng mga mamimili. I-feed ang isang modelo ng limang minuto ng malinis na audio at maaari itong magsalita ng kahit ano, sa kahit anong wika, magpakailanman. Sa loob ng dalawang taon mula noon, isang kategorya ng mga serbisyo ang lumitaw sa paligid ng "AI ancestors" — mga tool na nagpapahintulot sa mga pamilya na makipag-usap sa isang AI na bersyon ng isang yumaong mahal sa buhay, na binuo mula sa mga recording na ginawa noong buhay pa ito.

Nagbuo kami ng isa sa mga serbisyong ito. Nagbigay din kami ng opinyon sa publiko laban sa paraan ng pagkakabuo ng karamihan sa mga ito. Ito ang tapat na bersyon ng aming pananaw sa etika — at kung ano ang hitsura ng isang responsableng pagpapatupad.

Ang tatlong bagay na maaaring magkamali

1. Pagsang-ayon na hindi nangyari

Karamihan sa mga lolo at lola na buhay ngayon ay hindi kailanman inisip na ang kanilang boses ay maaaring muling buuin mula sa isang lumang home video. Hindi sila pumayag sa voice cloning dahil hindi pa umiiral ang konsepto nang sila ay nag-record. Ang pangunahing tanong, kung gayon, ay: sino ang may karapatang magpasya kung dapat silang i-clone ngayon?

Sa halos lahat ng voice-cloning service na kasalukuyang nasa merkado, ang sagot ay: sinumang may mga recording. Hindi ito etika — ito ay access. Ang isang anak na may mga voicemail ng kanyang ama ay walang pahintulot mula sa kanyang ama.

2. Hallucination na ipinasa bilang alaala

Ang isang malaking language model na nakakabit sa isang boses ay maaaring magsabi ng kahit ano na mukhang kapani-paniwala. Kung tanungin mo ang iyong AI-reconstructed na ama ng "ano ang naisip mo nang sabihin kong ikakasal ako kay Jennifer?", ang sistema ay magbibigay ng isang fluent, emosyonal na kasiyahang sagot. Maaaring ito ay batay sa totoong materyal na pinagkukunan. Maaaring ito ay confabulated. Karamihan sa mga kasalukuyang serbisyo ay hindi nagtatangi.

Ang resulta: maaari kang magdalamhati sa opinyon ng AI tungkol sa iyong ama, hindi sa opinyon ng iyong ama.

3. Komersyal at pampulitikang paggamit

Kung mayroong isang voice model, maaari itong ma-leak, nakawin, ibenta, o ipatawag. Ang boses na ginamit ng isang nagdadalamhating anak ngayon ay maaaring gamitin ng isang scammer bukas, isang kampanya sa susunod na taon. Ang mga serbisyong hindi nagdidisenyo para dito ay naglilipat ng tunay na panganib sa mga pamilya na hindi ito lubos na nauunawaan.

Kung ano ang hitsura ng isang responsableng serbisyo

Ang pagsang-ayon ay tahasan, naitala, at maaaring bawiin

Ang paksa — ang taong ang boses ay kinoklon — ay dapat mismo ang mag-record ng isang pahayag ng pagsang-ayon. Hindi ang adult na anak. Hindi ang ari-arian. Ang paksa. Sa kanilang sariling boses, sa rekord, na nagsasabing sila ay pumapayag.

Ang recording na iyon ay nakaimbak kasama ng modelo at ipinapakita sa sinumang humiling nito. Ang paksa ay maaaring bawiin ito anumang oras. Kung ang paksa ay namatay nang hindi kailanman nag-record ng pahintulot, ang voice cloning ay hindi pinapayagan, kahit sino pa ang humiling.

Ang mga patakaran pagkatapos ng kamatayan ay sumasalamin sa mga hangarin sa buhay

Kung ang paksa ay pumayag habang buhay, ang kanilang voice model ay patuloy na gagana ayon sa eksaktong saklaw na kanilang pinagkasunduan — para lamang sa pamilya, pribado, walang komersyal na paggamit. Kung sila ay nag-opt out habang buhay, walang miyembro ng pamilya ang maaaring mag-override nito. Ang death certificate ay hindi isang pag-upgrade ng pahintulot.

Ang mga output ng AI ay naka-link sa mga pinagkukunan

Bawat generated na pangungusap mula sa isang reconstructed na boses ay naka-link sa isang tiyak na naitalang sagot mula sa paksa. Kapag ang tanong ay labas sa mga bagay na kailanman ay pinag-usapan ng paksa, sinasabi ng sistema iyon — hindi ito gumagawa ng sagot. "Hindi ko alam" ay hindi isang failure mode. Ito ay isang tampok.

Walang training. Kailanman.

Ang boses at nilalaman ng iyong pamilya ay hindi ginagamit upang sanayin ang anumang pampublikong AI model. Hindi sa amin, hindi sa aming mga vendor, hindi sa isang research consortium. Ito ay isang kontraktwal na pangako na maaari naming kasuhan, hindi isang linya ng marketing.

Pagwasak sa kahilingan

Sinumang miyembro ng pamilya na tampok sa isang voice model ay maaaring humiling ng permanenteng pagwasak ng modelong iyon. Ginagawa namin ito sa loob ng 24 na oras mula sa pagkaka-verify ng pagkakakilanlan. Walang argumento, walang retention-policy arguments, walang "pero ang mga kapatid mo…" Ginagawa namin ito.

Ang dahilan kung bakit ito dapat gawin

Maaari mong basahin ang nasa itaas at tapusin na ang responsableng sagot ay: huwag nang bumuo ng voice cloning. Isinasaalang-alang namin ito nang mabuti. Narito kung bakit kami hindi sumang-ayon.

Ang mga nagdadalamhating pamilya ay, sa buong kasaysayan ng tao, pinanatili ang kung ano ang maaari nila. Mga liham. Mga talaarawan. Video. Mga litrato. Mga memorial portrait. Isang archive ng boses — ang pinakamalapit na bagay sa mismong tao — ay isang pagpapatuloy ng mahabang tradisyong iyon, hindi isang pag-alis mula rito. Ang tanong ay hindi kung susubukan ng mga pamilya na panatilihin ang mga boses ng mga taong mahal nila. Ang tanong ay kung ang mga tool na magagamit sa kanila ay itatayo nang responsable, o irresponsably.

Mas gusto naming maging isa sa mga responsableng opsyon kaysa i-boycott ang kategorya at panoorin itong ma-define ng mga irresponsable.

Ang hangganan na hindi namin tatawirin

"Hindi kami magbuo ng chatbot ng yumaong tao na tinatakbo ng ilang kakumpitensya. Ang isang tapat na karanasan ng pamana ay hindi isang séance."

Iyan ay mula sa aming pampublikong Trust & Ethics na dokumento. Hindi ito abstract — ito ay ang tiyak na desisyon sa disenyo na huwag bumuo ng isang conversational AI na nagpapanggap na ang paksa ay sumasagot sa mga bagong tanong na parang sila ay buhay. Ang aming itatayo, at kung ano ang aming ginagawa, ay isang voice-delivered archive ng kung ano ang talagang sinabi ng paksa, na pinapangasiwaan ng mga inapo na nais silang marinig.

Mahalaga ang pagkakaibang iyon. Ito ang pagkakaiba sa pagitan ng isang aklatan at isang séance. Sa pagitan ng isang museo at isang Disney-animatronic. Sa pagitan ng alaala at mahika.

Ang hinihiling namin sa iyo

Kung isinasaalang-alang mo ang anumang voice-cloning service — sa amin o sa iba — itanong ang limang tanong na ito bago ka mag-commit:

1. Ang paksa ba mismo ay pumayag, sa rekord, bago ka nagsimula?
2. Maaaring bawiin ng paksa (o ng kanilang ari-arian)?
3. Ang mga output ng AI ba ay naka-link sa tiyak na materyal na pinagkukunan?
4. Ang voice model ba ay ginagamit para sa pagsasanay ng anumang ibang sistema?
5. Ano ang mangyayari sa model kung ang kumpanya ay nakuha o nagsara?

Kung ang isang serbisyo ay hindi makasagot sa lahat ng limang tanong nang maayos, huwag itong gamitin. Anuman ang piliin mong serbisyo, ang mga tanong sa itaas ang mga tanong na magiging malinaw na titingnan ka sampung taon mula ngayon.