2024 में, वॉयस क्लोनिंग एक उपभोक्ता क्षमता बन गई। एक मॉडल को पांच मिनट की साफ ऑडियो दें और यह किसी भी भाषा में, हमेशा के लिए, कुछ भी कह सकता है। पिछले दो वर्षों में, "AI पूर्वजों" के चारों ओर एक सेवा श्रेणी उभरी है - ऐसे उपकरण जो परिवारों को एक मृत प्रियजन के AI संस्करण से बातचीत करने की अनुमति देते हैं, जो जीवन में किए गए रिकॉर्डिंग से बनाया गया है।
हम इनमें से एक सेवा बनाते हैं। हमने यह भी सार्वजनिक रूप से तर्क किया है कि इनमें से अधिकांश कैसे बनाए जा रहे हैं। यह नैतिकता पर हमारे विचारों का ईमानदार संस्करण है - और एक जिम्मेदार कार्यान्वयन कैसा दिखता है।
तीन बातें जो गलत हो सकती हैं
1. सहमति जो नहीं हुई
आज जीवित अधिकांश दादा-दादी ने कभी नहीं सोचा था कि उनकी आवाज़ को एक पुराने घरेलू वीडियो से पुनर्निर्मित किया जा सकता है। उन्होंने वॉयस क्लोनिंग के लिए विकल्प नहीं चुना क्योंकि जब उन्होंने रिकॉर्ड किया, तब यह अवधारणा मौजूद नहीं थी। तो, डिफ़ॉल्ट प्रश्न यह है: अब उन्हें क्लोन करने का निर्णय कौन लेता है?
वर्तमान में बाजार में लगभग हर वॉयस क्लोनिंग सेवा का उत्तर है: जो भी रिकॉर्डिंग के पास है। यह नैतिकता नहीं है - यह पहुंच है। एक पुत्र जिसके पास अपने पिता के वॉयसमेल हैं, उसके पिता की सहमति नहीं है।
2. स्मृति के रूप में पेश की गई भ्रांति
एक बड़े भाषा मॉडल से जुड़ी आवाज़ कुछ भी कह सकती है जो विश्वसनीय लगती है। यदि आप अपने AI-पुनर्निर्मित पिता से पूछते हैं "जब मैंने आपको बताया कि मैं जेनिफर से शादी कर रहा हूँ, तो आपने क्या सोचा?", तो सिस्टम एक प्रवाहपूर्ण, भावनात्मक रूप से संतोषजनक उत्तर प्रदान करेगा। यह वास्तविक स्रोत सामग्री पर आधारित हो सकता है। यह कल्पित हो सकता है। अधिकांश वर्तमान सेवाएं भेद नहीं करतीं।
परिणाम: आप अपने पिता की राय के बजाय AI की राय के लिए शोक कर सकते हैं।
3. व्यावसायिक और राजनीतिक उपयोग
यदि एक आवाज़ मॉडल मौजूद है, तो इसे लीक, चुराया, बेचा या समन किया जा सकता है। आज एक शोकग्रस्त बेटी द्वारा उपयोग की गई आवाज़ कल एक ठग द्वारा, एक अभियान के द्वारा अगले वर्ष उपयोग की जा सकती है। जो सेवाएं इसके लिए डिज़ाइन नहीं की गई हैं, वे परिवारों पर एक वास्तविक जोखिम डाल रही हैं जो इसे पूरी तरह से नहीं समझते।
एक जिम्मेदार सेवा कैसी दिखती है
सहमति स्पष्ट, रिकॉर्ड की गई और रद्द की जा सकने वाली है
विषय - जिस व्यक्ति की आवाज़ को क्लोन किया जा रहा है - को स्वयं एक सहमति बयान रिकॉर्ड करना चाहिए। न कि वयस्क बच्चे। न कि संपत्ति। विषय। अपनी स्वयं की आवाज़ में, रिकॉर्ड पर, यह कहते हुए कि वे सहमत हैं।
वह रिकॉर्डिंग मॉडल के साथ संग्रहीत की जाती है और इसे किसी भी व्यक्ति को दिखाया जाता है जो इसे सक्रिय करता है। विषय कभी भी रद्द कर सकता है। यदि विषय बिना सहमति रिकॉर्ड किए मर जाता है, तो वॉयस क्लोनिंग की अनुमति नहीं है, चाहे कोई भी पूछे।
मृत्यु के बाद के नियम जीवन की इच्छाओं को दर्शाते हैं
यदि विषय ने जीवन के दौरान सहमति दी, तो उनका आवाज़ मॉडल ठीक उसी दायरे में कार्य करता है जिस पर उन्होंने सहमति दी - केवल परिवार, निजी, कोई व्यावसायिक उपयोग नहीं। यदि उन्होंने जीवन के दौरान बाहर निकलने का विकल्प चुना, तो कोई भी परिवार का सदस्य उसे अधिलेखित नहीं कर सकता। मृत्यु प्रमाण पत्र सहमति का उन्नयन नहीं है।
AI आउटपुट स्रोत से जुड़े हैं
एक पुनर्निर्मित आवाज़ से उत्पन्न हर वाक्य एक विशिष्ट कैप्चर किए गए उत्तर से जुड़ा होता है। जब पूछा गया प्रश्न उस विषय के बारे में नहीं है जिसके बारे में उन्होंने कभी बात की, तो सिस्टम ऐसा कहता है - यह उत्तर नहीं बनाता। "मुझे नहीं पता" एक विफलता मोड नहीं है। यह एक विशेषता है।
कभी भी प्रशिक्षण नहीं।
आपके परिवार की आवाज़ और सामग्री का उपयोग किसी भी सार्वजनिक AI मॉडल को प्रशिक्षित करने के लिए नहीं किया जाता है। न हमारा, न हमारे विक्रेताओं का, न ही किसी शोध संघ का। यह एक संविदात्मक प्रतिबद्धता है जिसके लिए हम पर मुकदमा किया जा सकता है, न कि एक विपणन लाइन।
अनुरोध पर नष्ट करना
किसी भी परिवार के सदस्य जो आवाज़ मॉडल में शामिल हैं, उस मॉडल के स्थायी नाश का अनुरोध कर सकते हैं। हम इसे सत्यापित पहचान के 24 घंटे के भीतर करते हैं। कोई तर्क नहीं, कोई रखरखाव नीति के तर्क नहीं, कोई "लेकिन आपके भाई-बहन..." नहीं। हम इसे करते हैं।
यह सब करने का मामला
आप उपरोक्त पढ़ सकते हैं और निष्कर्ष निकाल सकते हैं कि जिम्मेदार उत्तर है: वॉयस क्लोनिंग बिल्कुल न बनाएं। हमने इसे ध्यान से विचार किया। यहाँ कारण है कि हम असहमत हैं।
शोकग्रस्त परिवारों ने मानव इतिहास के पूरे समय में, जो कुछ भी वे कर सकते थे, उसे संरक्षित किया है। पत्र। डायरी। वीडियो। तस्वीरें। स्मारक चित्र। आवाज़ का एक संग्रह - जो व्यक्ति के सबसे करीब है - उस लंबे परंपरा का एक निरंतरता है, न कि इससे कोई प्रस्थान। प्रश्न यह नहीं है कि परिवार अपने प्रियजनों की आवाज़ों को बनाए रखने की कोशिश करेंगे या नहीं। प्रश्न यह है कि उनके लिए उपलब्ध उपकरण जिम्मेदारी से बनाए जाएंगे या गैर-जिम्मेदारी से।
हम जिम्मेदार विकल्पों में से एक होना चाहेंगे, बजाय इसके कि श्रेणी का बहिष्कार करें और इसे गैर-जिम्मेदार विकल्पों द्वारा परिभाषित होते देखें।
हमारी सीमा जिसे हम पार नहीं करेंगे
"हम मृत व्यक्ति के चैटबॉट का निर्माण नहीं करेंगे, जिसके लिए कुछ प्रतिस्पर्धी दौड़ रहे हैं। एक ईमानदार विरासत अनुभव एक सायंस नहीं है।"
यह हमारे सार्वजनिक Trust & Ethics दस्तावेज़ से है। यह अमूर्त नहीं है - यह एक विशेष डिज़ाइन विकल्प है कि एक संवादात्मक AI का निर्माण न करें जो विषय का अनुकरण करता है और नए प्रश्नों का उत्तर देता है जैसे कि वे जीवित होते। हम जो बनाएंगे, और जो हम बनाते हैं, वह उस विषय का एक आवाज़-प्रदान किया गया अभिलेख है जो वास्तव में कहा गया है, जो वंशजों द्वारा नेविगेट किया जाता है जो उन्हें सुनना चाहते हैं।
यह भेद महत्वपूर्ण है। यह एक पुस्तकालय और एक सायंस के बीच का अंतर है। एक संग्रहालय और एक डिज़्नी-एनिमेट्रॉनिक के बीच। स्मृति और जादू के बीच।
हम आपसे क्या मांगते हैं
यदि आप किसी भी वॉयस क्लोनिंग सेवा पर विचार कर रहे हैं - हमारी या किसी और की - तो प्रतिबद्ध होने से पहले इन पांच प्रश्नों को पूछें:
- क्या विषय ने स्वयं सहमति दी, रिकॉर्ड पर, पहले से?
- क्या विषय (या उनकी संपत्ति) रद्द कर सकते हैं?
- क्या AI आउटपुट विशिष्ट स्रोत सामग्री से जुड़े हैं?
- क्या आवाज़ मॉडल किसी अन्य प्रणाली के प्रशिक्षण के लिए उपयोग किया जाता है?
- यदि कंपनी का अधिग्रहण किया जाता है या बंद हो जाती है, तो मॉडल का क्या होगा?
यदि कोई सेवा इन सभी पांच प्रश्नों का स्पष्ट उत्तर नहीं दे सकती है, तो इसका उपयोग न करें। चाहे आप कौन सी सेवा चुनें, उपरोक्त प्रश्न वे हैं जो दस साल बाद आपको स्पष्ट रूप से देखेंगे।
हमारी Trust & Ethics प्रतिबद्धताएँ - सार्वजनिक रूप से।
छह वादे। उज्ज्वल रेखाएँ जिन्हें हम पार नहीं करेंगे। परिवर्तन 30 दिन पहले घोषित किए जाएंगे।
पूर्ण Trust & Ethics दस्तावेज़ पढ़ें →