OpenAIના Disrupting Malicious Uses of AI: October 2025ના રિપોર્ટ અનુસાર, ચીન સાથે જોડાયેલા ઘણા યુઝર્સ સોશિયલ મીડિયા લિસનિંગ ટૂલ્સ અને હાઇ-રિસ્ક યઝર્સ સંબંધિત ઇનફ્લો વોર્નિંગ મોડેલ્સ જેવા પ્રોજેક્ટ્સ વિકસાવવામાં ChatGPT પાસેથી સહાય માંગી હતી.
આ સાધનો કથિત રીતે સરકારી દેખરેખ અને સંવેદનશીલ કન્ટેન્ટ ઓળખ માટે બનાવાયેલ હતા. જો કે, કંપનીએ સ્પષ્ટતા કરી હતી કે આ મોડેલ્સના અસ્તિત્વ અથવા ઉપયોગની પુષ્ટિ કરી શકાઈ નથી.
સંવેદનશીલ વિષયો પર સંશોધન માટે વપરાય છે
કેટલાક એકાઉન્ટ્સ ChatGPT નો સંશોધન સાધન તરીકે ઉપયોગ કરતા હતા. આ વિનંતીઓમાં ચીન સંબંધિત સંવેદનશીલ મુદ્દાઓ, જેમ કે 1989ના તિયાનમેન સ્ક્વેર હત્યાકાંડ, દલાઈ લામાના જન્મદિવસ અને મંગોલિયામાં અરજીઓ પર માહિતી શામેલ હતી.
એક કિસ્સામાં, X (ટ્વિટર) એકાઉન્ટના ફંડિંગ સ્ત્રોત અને ઓર્ગેનાઇજેર ઓળખ પણ કરવામાં આવી હતી. જો કે, ChatGPTએ ફક્ત જાહેરમાં ઉપલબ્ધ ડેટા જ શેર કર્યો હતો.
રશિયા સાથે જોડાયેલા એકાઉન્ટ્સ સામે કાર્યવાહી
OpenAIએ એ પણ અહેવાલ આપ્યો છે કે કેટલાક રશિયા સ્થિત એકાઉન્ટ્સ ફિશિંગ ટૂલ્સ અને અન્ય સાયબર હુમલાઓ માટે ChatGPTનો દુરુપયોગ કરી રહ્યા હતા. કંપનીએ તાત્કાલિક અસરથી આવા તમામ એકાઉન્ટ્સ પર પ્રતિબંધ મૂક્યો હતો.
OpenAIએ આને authoritarian abuses of AIનું પ્રતિબિંબ ગણાવ્યું હતું અને જણાવ્યું હતું કે કંપની ભવિષ્યમાં આવા કિસ્સાઓ સામે કડક પગલાં લેવાનું ચાલુ રાખશે.
