क्लॉड AI अब गलत हरकतों पर चैट खुद फ्लैग करेगा

एआई कंपनी Anthropic ने 'सेल्फ असेसमेंट' फीचर रोल आउट किया है, जो यूजर्स की आपत्तिजनक बातचीत को पहचान कर सीधे रिव्यू के लिए भेज देगा।

यह सिस्टम जून 2026 से ही टेस्ट किया जा रहा था। यह बैकग्राउंड में काम करता है और यूजर को किसी वॉर्निंग या पॉप-अप के बिना रिपोर्ट करता है।

कंपनी के अनुसार, यह सिस्टम अगस्त में बाल शोषण के 1,00,000 से अधिक मामलों को फ्लैग करने में सफल रहा है, जो रीयल-टाइम मॉनिटरिंग में मदद कर रहा है।