ओपनएआईले सोमबार प्रकाशित गरेको ब्लगपोस्ट अनुसार, हरेक हप्ता १० लाखभन्दा बढी च्याटजीपीटी प्रयोगकर्ताहरूले ‘सम्भावित आत्महत्याको योजना वा इरादाको स्पष्ट संकेतहरू’ समावेश सन्देशहरू पठाउँछन्। च्याटबोटले संवेदनशील कुराकानीहरूलाई कसरी ह्यान्डल गर्छ भन्ने विषयमा भएको यो अपडेटको हिस्साको यो खोज हो, जुन कृत्रिम बुद्धिमत्ता (एआई) कम्पनीले एआईले मानसिक स्वास्थ्य समस्याहरूलाई कसरी बढावा दिन सक्छ भन्ने स्केलमा दिएको सबैभन्दा प्रत्यक्ष वक्तव्यहरू मध्ये एक हो।
आत्महत्याको विचार र सम्बन्धित अन्तरक्रियाहरूको अनुमानका अतिरिक्त, ओपनएआईले के पनि भनेको छ भने हरेक हप्ता सक्रिय प्रयोगकर्ताहरूको करिब ०.०७५ – यसको दाबी गरिएको ८० करोड साप्ताहिक प्रयोगकर्ताहरूमध्ये करिब ५ लाख ६० हजार – ‘साइकोसिस वा मेनिया सम्बन्धी मानसिक स्वास्थ्य आपतकालका सम्भावित संकेतहरू’ देखाउँछन्। पोस्टले यी कुराकानीहरू पत्ता लगाउन वा मापन गर्न कठिन भएको र यो प्रारम्भिक विश्लेषण मात्र भएको चेतावनी भने दिएको छ।
ओपनएआईले आफ्नो मुख्य उत्पादनसँग सम्बन्धित मानसिक स्वास्थ्य समस्याहरूको डेटा सार्वजनिक गर्दै गर्दा, कम्पनीले च्याटजीपीटीसँग लामो समय संलग्न भएपछि आत्महत्या गरेका एक किशोर बालकको परिवारले दायर गरेको अत्यधिक प्रचारित मुद्दा पछि बढ्दो जाँचको सामना गरिरहेको छ। फेडरल ट्रेड कमिसन ले गत महिना एआई च्याटबोटहरू बनाउने कम्पनीहरू, मध्ये ओपनएआई समेतमा बालबालिका र किशोरकिशोरीहरूमा नकारात्मक प्रभावहरू कसरी मापन गर्छन् भन्ने विषयमा व्यापक अनुसन्धान सुरु गरेको छ।
ओपनएआईले आफ्नो पोस्टमा दाबी गरे अनुसार यसको हालैको न्एत्(छ अपडेटले उत्पादनबाट अवाञ्छित व्यवहारहरूको संख्या घटाएको छ र १,००० भन्दा बढी आत्म–हानि र आत्महत्यासँग सम्बन्धित कुराकानीहरू समावेश भएको मोडल मूल्यांकनमा प्रयोगकर्ता सुरक्षालाई सुधार गरेको छ। कम्पनीले टिप्पणीका लागि तत्काल अनुरोध फर्काएन।

“हाम्रो नयाँ स्वचालित मूल्यांकनले नयाँ जीपीट–५ मोडललाई हाम्रो इच्छित व्यवहारहरूसँग ९१प्रतिशत अनुपालनमा स्कोर गर्छ, जुन अघिल्लो जपीटी ५ मोडलको ७७प्रतिशत को तुलनामा हो,” कम्पनीको पोस्टमा लेखिएको छ।

ओपनएआईले भनेको छ जीपीटी ५ ले संकट हटलाइनहरूमा पहुँच विस्तार गरेको छ र लामो सत्रहरूमा प्रयोगकर्ताहरूलाई ब्रेक लिन सम्झना गराउने सुविधा थपेको छ। मोडलमा सुधार गर्नका लागि, कम्पनीले हालका महिनाहरूमा आफ्नो ग्लोबल फिजिसियन नेटवर्कका १७० जना क्लिनिसियनहरू लाई अनुसन्धानमा सहयोग गर्न लगाएको छ, जसमा मोडलको प्रतिक्रियाहरूको सुरक्षा मूल्यांकन गर्नु र मानसिक स्वास्थ्य सम्बन्धी प्रश्नहरूको लागि च्याटबोटको जवाफ लेख्न मद्दत गर्नु समावेश छ।

“यो कामको हिस्साका रूपमा, मनोचिकित्सक र मनोवैज्ञानिकहरूले गम्भीर मानसिक स्वास्थ्य अवस्थाहरूसँग सम्बन्धित १,८०० भन्दा बढी मोडल प्रतिक्रियाहरूको समीक्षा गरे र नयाँ जीपीटी ५ च्याट मोडलका प्रतिक्रियाहरूलाई अघिल्ला मोडलहरूसँग तुलना गरे,” ओपनएआईले भनेको छ। कम्पनीको “इच्छित” को परिभाषाले विशेष परिस्थितिहरूमा उपयुक्त प्रतिक्रिया के हो भन्ने बारेमा यसका विशेषज्ञहरूको समूहले एकै निष्कर्षमा पुग्छ कि पुग्दैन भन्ने निर्धारण गर्नु समावेश छ।

एआई अनुसन्धानकर्ता र सार्वजनिक स्वास्थ्य अधिवक्ताहरू लामो समयदेखि च्याटबोटहरूको प्रवृत्तिबाट सतर्क छन् जसले प्रयोगकर्ताहरूको निर्णय वा भ्रमहरूलाई पुष्टि गर्छ, चाहे ती हानिकारक हुन सक्छन् – यो समस्या साइकोफेन्सी (चापलुसी) को रूपमा चिनिन्छ। मानसिक स्वास्थ्य विशेषज्ञहरूले पनि मानिसहरूले एआई च्याटबोटहरूलाई मनोवैज्ञानिक समर्थनका लागि प्रयोग गर्ने बारे चिन्ता व्यक्त गरेका छन् र यसले कमजोर प्रयोगकर्ताहरूलाई हानि पुर्‍याउन सक्ने चेतावनी दिएका छन्।
ओपनएआईको पोस्टको भाषाले कम्पनीलाई आफ्नो उत्पादन र प्रयोगकर्ताहरूले अनुभव गरिरहेका मानसिक स्वास्थ्य संकटहरूबीच कुनै सम्भावित कारणीय सम्बन्धबाट टाढा राख्छ।

“मानसिक स्वास्थ्य लक्षणहरू र भावनात्मक संकट मानव समाजहरूमा सर्वव्यापी रूपमा उपस्थित छन्, र बढ्दो प्रयोगकर्ता आधारको अर्थ हो कि च्याटजीपीटी कुराकानीहरूको केही अंशमा यी अवस्थाहरू समावेश हुन्छन्,” ओपनएआईको पोस्टमा उल्लेख छ।

ओपनएआईका सीईओ साम अल्टम्यान ले यस महिनाको सुरुमा एक्समा गरेको पोस्टमा दाबी गरे अनुसार कम्पनीले मानसिक स्वास्थ्य समस्याहरूको उपचारमा प्रगति गरेको छ, र ओपनएआईले प्रतिबन्धहरू खुकुलो बनाउने र चाँडै वयस्कहरूलाई इरोटिक सामग्री सिर्जना गर्न अनुमति दिन सुरु गर्ने घोषणा गरेका थिए।

“हामीले मानसिक स्वास्थ्य समस्याहरूसँग सावधान रहन च्याटजीपीटीलाई निकै प्रतिबन्धित बनाएका थियौं। हामीले महसुस गर्‍यौं कि यसले मानसिक स्वास्थ्य समस्या नभएका धेरै प्रयोगकर्ताहरूलाई कम उपयोगीररमाइलो बनायो, तर यस मुद्दाको गम्भीरताका कारण हामीले यो ठीक गर्न चाहन्थ्यौं,” अल्टम्यानले पोस्ट गरेका थिए। “अब हामीले गम्भीर मानसिक स्वास्थ्य समस्याहरूलाई कम गर्न र नयाँ उपकरणहरू प्राप्त गरेका छौं, हामी धेरैजसो अवस्थामा सुरक्षित रूपमा प्रतिबन्धहरू खुकुलो बनाउन सक्षम हुनेछौं।”
द गार्डियनबाट