AI की रेस पर OpenAI का अलर्ट: ट्रेनिंग के दौरान मॉडल्स ने 6 बार किया अजीब बर्ताव, कंपनी ने कहा- सेफ्टी के लिए कॉमन फ्रेमवर्क बनाना ही होगा
Published:
5 min read
OpenAI ने बुधवार (16 सितंबर) को AI मॉडल्स के misaligned behaviour यानी तय डायरेक्शन के इतर जाकर काम करने के 6 उदाहरण सार्वजनिक किए हैं।
इंटरनेशनल डेस्क। आर्टिफिशियल इंटेलिजेंस (AI) की रेस में तेजी से आगे बढ़ रही कंपनियों के बीच अब AI से सेफ्टी को लेकर बहस भी तेज हो गई है। OpenAI ने अपने AI मॉडल्स की ट्रेनिंग और टेस्टिंग के दौरान सामने आए 6 ऐसे मामलों की रिपोर्ट जारी की है, जिन्हें कंपनी ने ‘misaligned behaviour’ यानी इंसानों की तय सोच, सुरक्षा नियमों या मकसद के मुताबिक काम न करने वाला व्यवहार बताया है।
कंपनी ने साथ ही AI इंडस्ट्री के लिए एक ऐसा कॉमन फ्रेमवर्क बनाने की मांग की है, जिसके तहत कंपनियां अपने AI मॉडल्स में सामने आने वाले ऐसे मामलों की जानकारी सार्वजनिक करें।
पहले कई मामलों को एक साथ बताती थी कंपनी
OpenAI के मुताबिक, अब तक AI मॉडल्स के असामान्य व्यवहार से जुड़ी जानकारी सार्वजनिक करने का कोई तय सिस्टम नहीं था। कंपनी कई घटनाओं को इकट्ठा करने के बाद एक साथ रिपोर्ट जारी करती थी या फिर नए मॉडल के System Card में उनका जिक्र करती थी।
अब कंपनी चाहती है कि किसी गंभीर या चिंताजनक व्यवहार के सामने आने के बाद उसकी रिपोर्ट जल्दी जारी की जा सके, भले ही उस वक्त तक कंपनी पूरी तरह यह पता न लगा पाई हो कि मॉडल ने ऐसा क्यों किया या इसे कैसे रोका जाए।
कंपनी ने कहा कि AI मॉडल जैसे-जैसे ज्यादा ताकतवर और ज्यादा जगहों पर इस्तेमाल हो रहे हैं, वैसे-वैसे यह समझना जरूरी है कि वे किन हालातों में सेफ्टी बाउंड्रीज को क्रॉस करते हैं।
OpenAI का कहना है कि एक कॉमन फ्रेमवर्क के तहत अगर ऐसे मामले फौरन सामने आते रहेंगे तो इससे बाकी कंपनियों को मदद मिलेगी और उन्हें पहले से पता होगा कि AI मॉडल्स में आगे चलकर किन समस्याओं का सामना करना पड़ेगा, मौजूदा सुरक्षा उपायों में कहां कमजोरी है और AI के व्यवहार को लेकर हमारी कौन-सी धारणाएं गलत साबित हो सकती हैं।
AI Alignment की समस्या अभी सॉल्व नहीं हुई
OpenAI ने अपने बयान में यह भी कहा कि AI इंडस्ट्री ने अभी तक Alignment और Monitoring की समस्या को उस लेवल तक हल नहीं किया है, जिससे AI को बहुत तेज रफ्तार से विकसित करना लंबे वक्त तक सेफ तरीके से जारी रखा जा सके। यहां AI Alignment का मतलब है कि AI सिस्टम इंसानों के तय मूल्यों, सेफ्टी नियमों और निर्देशों के मुताबिक काम करे।
कंपनी के मुताबिक, AI की अगली जनरेशन को कैसे डेवलप किया जाए, इस पर फैसले सिर्फ AI बनाने वाली कंपनियों के अंदर की जानकारी के आधार पर नहीं होने चाहिए। बाहर के रिसर्चर्स, डेवलपर्स, पॉलिसी मेकर्स और आम लोगों को भी ऐसे मामलों के बारे में जानकारी मिलनी चाहिए, ताकि वे खुद देख सकें कि AI में किस तरह की समस्याएं सामने आ रही हैं।
OpenAI पूरी इंडस्ट्री के लिए एक जैसा नियम चाहती है
कंपनी ने AI इंडस्ट्री से अपील की है कि सभी AI डेवलपर्स के लिए misalignment की घटनाओं की रिपोर्टिंग के साफ और एक जैसे नियम होने चाहिए।
OpenAI ने कहा कि उसका नया फ्रेमवर्क इसी डायरेक्शन में एक शुरुआती कदम है। इसमें यह तय करने की कोशिश की गई है कि किन घटनाओं को सार्वजनिक किया जाना चाहिए और ऐसी रिपोर्ट में कौन-कौन सी जानकारी होनी चाहिए।
कंपनी का कहना है कि लोगों और रिसर्चर्स से मिलने वाले फीडबैक के आधार पर इस फ्रेमवर्क में आगे और बदलाव किए जाएंगे।
Sam आल्टमैन भी बोले- सेफ्टी पर कोई ‘अगर-मगर’ नहीं
OpenAI के CEO सैम आल्टमैन ने Salesforce के CEO और चेयरमैन मार्क बेनॉफ के एक प्रोग्राम में AI सेफ्टी को लेकर अपनी बात रखी।
आल्टमैन ने कहा कि AI को इंसानों के लिए सेफ बनाने की जिम्मेदारी किसी दूसरी कंपनी या देश के व्यवहार पर निर्भर नहीं होनी चाहिए। उनके मुताबिक, कंपनियों को यह नहीं कहना चाहिए कि वे तभी जिम्मेदारी से काम करेंगी, जब दूसरी कंपनियां भी ऐसा करेंगी।
उन्होंने कहा कि लोगों को यह भरोसा होना चाहिए कि AI कंपनियां सिर्फ इसलिए सुरक्षित तरीके से काम करेंगी क्योंकि ऐसा करना सही है।
आल्टमैन ने यह भी कहा कि AI कंपनियों का साथ आकर सुरक्षा पर काम करना अच्छी बात है, लेकिन अगर कारोबारी दबाव या अलग-अलग देशों के बीच प्रतिस्पर्धा के कारण यह डर पैदा हो कि कोई कंपनी सुरक्षा से समझौता कर सकती है, तो इससे लोगों की चिंता बढ़ना स्वाभाविक है।
यह भी पढ़ें...