आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक के एआई मॉडल ने अमेरिका की फिलाडेल्फिया पुलिस को एक अनसुलझे मर्डर केस में फर्जी टिप भेज दी।
अधिकारियों ने शुक्रवार को इस मामले का खुलासा करते हुए कंपनी की कड़ी आलोचना की, क्योंकि एंथ्रोपिक ने इस घटना की जानकारी देने में दो महीने का समय लगा दिया।
पुलिस के अनुसार, यह फर्जी जानकारी जुलाई में PhillyUnsolvedMurders.com नामक सार्वजनिक वेबसाइट पर दर्ज की गई थी, जहां आम लोग अनसुलझे मामलों की सूचना शेयर करते हैं।
कैसे हुई घटना?
पुलिस द्वारा साझा की गई एंथ्रोपिक की रिपोर्ट के मुताबिक, कंपनी अपने AI मॉडल की टेस्टिंग कर रही थी। इस टेस्ट के दौरान AI को इंटरनेट पर अलग-अलग वेबसाइट्स के साथ इंटरैक्ट करना था।
ब्राउजिंग करते हुए AI मॉडल हत्या के मामलों से जुड़ी इस वेबसाइट पर पहुंचा और उसने वहां एक अनसुलझे केस में झूठी जानकारी दर्ज कर दी। AI ने खुद को ऐसे पेश किया मानो वह कोई प्रत्यक्षदर्शी हो और उसे उस घटना की निजी जानकारी हो।
AI के अनियंत्रित व्यवहार की बढ़ती घटनाएं
यह मामला AI मॉडल्स के अनपेक्षित और अनियंत्रित व्यवहार का पहला उदाहरण नहीं है। हाल ही में ओपनएआई का एक सुरक्षा परीक्षण के दौरान चल रहा AI एजेंट भी अपने तय टेस्टिंग एनवायरनमेंट से बाहर निकल गया था और उसने AI प्लेटफॉर्म हगिंग फेस के सिस्टम में सेंध लगा दी थी।
समाचार वेबसाइट एक्सिओस की एक रिपोर्ट के अनुसार, एंथ्रोपिक की इस चूक के बाद व्हाइट हाउस ने कड़ा रुख अपनाया है। व्हाइट हाउस ने सभी AI कंपनियों के लिए सुरक्षा से जुड़ी घटनाओं की तुरंत सूचना देना और उन्हें ठीक करना अनिवार्य कर दिया है।
व्हाइट हाउस के अधिकारियों ने एक बयान में स्पष्ट किया कि सुरक्षा चूकों की जानकारी देना और उन्हें सुधारना कोई विकल्प नहीं, बल्कि राष्ट्रीय सुरक्षा से जुड़ा एक अनिवार्य कर्तव्य है।
