‘च्याटबटमाथि विश्वास गरिहाल्नु मूर्खता’

पछिल्लो समय एआईका विभिन्न वेबसाइटहरू सूचना र जानकारी खोज्न निकै प्रयोग हुन थालेका छन्। खासगरी ओपनएआईको च्याटजिपिटी बजारमा सार्वजनिक प्रयोग हुन थालेपछि च्याटबटहरू लोकप्रिय हुन थालेका हुन्।

यसको लोकप्रियता कतिसम्म चुलिएको छ भने यही रापतापमा हात सेक्न कम्पनीहरूसमेत लागिपरेका छन्। अहिले च्याटबटको संख्या दिनदिनै बढ्न थालेको छ।

पछिल्लो समय सामाजिक सञ्जाल एक्समा प्रयोग गर्न पाइने एक्सएआईको ग्रोक च्याटबटले कसरी बिनासेन्सरको सूचना दिन सक्छ भन्ने उदाहरण भाइरल भइरहेको छ। बिनासेन्सर ग्रोकले दिने जानकारीलाई आधार बनाएर राजनीतिज्ञहरूमाथि गिज्याउने (ट्रोल गर्ने) क्रम पनि बढेर गएको छ। तर सूचना तथा जानकारी खोज्ने उद्देश्यले प्रयोग गरिने एआई बटहरूले गलत सूचना तथा जानकारीहरू पनि दिनु गम्भीर समस्या भएको कोलम्बिया विश्वविद्यालयस्थित टोभ सेन्टर फर डिजिटल जर्नालिजमले जनाएको छ।

कोलम्बिया विश्वविद्यालयको स्कुल अफ जर्नालिजमले निकाल्ने त्रैमासिक पत्रिका कोलम्बिया जर्नालिजम रिभ्युका लागि टोभ सेन्टर फर डिजिटल जर्नालिजमले यस विषयमा अनुसन्धान गरेको थियो।

सो अनुसन्धानअनुसार सटीक जानकारीका अभावमा एआई बटहरूले गलत सूचनाहरू दिने, त्यसबारे गुनासो गर्दा माफी माग्नेजस्ता समस्या देखिएको छ। अनुसन्धानकर्ताहरूले आठ वटा एआई बटहरूको परीक्षण गरेका थिए। परीक्षणका क्रममा च्याटबटहरूलाई प्रत्येक लेखको मूल शीर्षक, प्रकाशक, प्रकाशन मिति र वेबसाइट (युआरएल) पहिचान गर्न भनिएको थियो।

तर एआई बटहरूले ६० प्रतिशतभन्दा बढी प्रश्नमा गलत स्रोतहरू उल्लेख गरेका थिए। अनुसन्धानकर्ता क्लाउडिया जाज्विन्स्का र ऐश्वर्या चन्द्रशेकरले आफ्नो प्रतिवेदनमा उल्लेख गरेअनुसार लगभग चारमध्ये एक जना अमेरिकीले पारम्परिक खोज सर्च इन्जिनको विकल्पका रूपमा एआई मोडेलहरू प्रयोग गरिरहेका छन्।

नेपालमा भने एआई बटहरू रमाइलोका लागि प्रयोग भइरहेका छन् र कतिपय अवस्थामा सूचनाको स्रोतका रूपमा पनि प्रयोग भइरहेको छ। ती सूचनाका स्रोतहरूको आधिकारिकता के हो भन्नेबारे सोध्दा च्याटबटहरूले गोलमाल उत्तर दिने गरेको पनि देखिएकाले तिनको विश्वसनीयतामा प्रश्न उठेको अनुसन्धाताहरू बताउँछन्।

परीक्षण गरिएका प्लेटफर्महरूमा स्रोत उल्लेख गर्दा भिन्नता देखिएको छ। परप्लेक्सिटीले ३७ प्रतिशत सोधनीमा गलत जानकारी दिएको थियो। त्यस्तै च्याटजिपिटी सर्चले २०० सोधनीमध्ये १३४ (६७ प्रतिशत) लेखहरूको गलत जानकारी दिएको थियो। त्यस्तै एक्सको ग्रोक थ्रीले ९४ प्रतिशतको सबैभन्दा उच्च गलत दर देखाएको थियो।

त्यसो त ग्रोक सबैभन्दा नयाँ र परीक्षणकै अवधिमा छ। जम्मा आठ वटा एआई बट उपकरणमा १६ सय जिज्ञासा चलाइएका थिए। यस अध्ययनले एआई मोडेलहरूका साझा प्रवृत्ति के–कस्ता छन् भन्ने खोज गरेको थियो। विश्वसनीय जानकारी नहुँदा पनि तिनले अधिकांश अवस्थामा जवाफ दिँदा ‘मलाई थाहा छैन’ भन्नुको साटो अड्कलबाजी गरेर उत्तरहरू दिएका थिए।

अड्कलबाजीमा सबै च्याटबट र एआई सर्चबटहरूमा समानता रहेको पनि देखिएको छ। अनुसन्धाताहरूका अनुसार एआई बटहरूका पैसा तिरिने संस्करणहरूमा त अझ ठुलो गल्ती पाइने गरेको छ। गणित र विज्ञानमा निकै उम्दा मानिएको पर्लप्लेक्सिटी प्रो चलाउन प्रतिमहिना २० डलर तिर्नुपर्छ।

त्यस्तै इलन मस्कको कम्पनी ग्रोक थ्री चलाउन ४० डलर प्रतिमहिना तिर्नुपर्छ। यी दुवैले गलत जवाफ पनि बडो आत्मविश्वासका साथ दिने गरेको पाइएको छ। त्यसो त प्रिमियम मोडलहरूले धेरै प्रश्नका सही उत्तर दिएका थिए तर दुविधाको अवस्थामा उनीहरूले ‘मलाई थाहा छैन’ भनेर जवाफ दिनुको साटो बढी जान्ने हुँदा समग्र गलत दर बढाएको अध्येताहरूले बताएका छन्।

अनुसन्धाताहरूले केही एआई उपकरणहरूले रोबोट एक्सक्लुजन प्रोटोकल (प्रकाशकहरूले वेब क्रोलरहरूलाई विशिष्ट सामग्रीबाट टाढा रहन अनुरोध गर्ने स्वैच्छिक मानक) लाई बेवास्ता गरेको प्रमाण पनि पत्ता लगाए। उदाहरणका लागि नेसनल जियोग्राफिकले परप्लेक्सिटीका क्रोलरहरू प्रतिबन्धित गरेता पनि यसको निःशुल्क संस्करणले पैसा तिरिने (पे–वाल्ड) सामग्रीबाट १० वटा उद्धरण चोर्ने गरेको पनि देखिएको छ।

एआई खोज उपकरणहरूले स्रोत उल्लेख गरे पनि प्रायः याहु न्युजजस्ता प्लेटफर्महरूमा सिन्डिकेटेड सामग्रीबाट बढी स्रोत लिएको देखाएको थियो। प्रायः एआई कम्पनीहरूले औपचारिक लाइसेन्सिङ सम्झौता लिएका प्रकाशकहरूका सूचना, जानकारी तथा समाचारहरूलाई पनि प्रयोग गरेको देखिएको छ। त्यसैगरी कहिलेकाहीँ समाचार स्रोतको आधिकारिकता गोप्य राख्ने गरेको पनि पाइएको छ।

एआई च्याटबट तथा सर्चबटहरूले आधिकारिता नदेखाउने सूचना तथा जानकारीहरूलाई झट्ट विश्वास गरिहाल्न उचित नहुने विज्ञहरूको सुझाव छ। खासगरी सर्वसाधारणले च्याटबटले जे सूचना दियो, त्यसैमाथि विश्वास गर्नु आफैं मूर्ख हुनु रहेको उनीहरूको भनाइ छ। सर्चबट वा च्याटबटहरू बहकिने, गलत सूचना तथा जानकारीहरू दिने समस्या समाधानतर्फ के–कस्ता काम भइरहेका छन् भन्नेबारे ठुला कम्पनीहरूले कुनै प्रस्ट योजना बनाउन सकिरहेका छैनन्।

टोव सेन्टरले यसअघि पनि गएको नोभेम्बर २०२४ मा च्याटजिपिटीद्वारा समाचार सामग्री प्रस्तुत गर्दा हुने सटीकताको समस्या उल्लेख गरेको थियो। अहिले त्यो सूचीमा नयाँ र लोकप्रिय च्याटबटहरूसमेत थपिएपछि मिडिया अनुसन्धाताहरू चिन्तित हुन थालेका छन्।