विस्तृत विश्लेषण · लगभग 3 मिनट पढ़ना
Anthropic में METR का कर्मचारी जैसा प्रवेश क्या अनुमति देता है
15 अक्टूबर का अपडेट छह मूल्यांकनकर्ताओं और प्रकाशन की सीमाएं बताता है, जिन्हें 16 अक्टूबर को स्पष्ट किया गया।
- यहाँ प्रकाशित
- स्रोत की तारीख
- स्रोत जाँचा गया
Anthropic कहता है कि छह METR कर्मियों को उन्नत मॉडल जोखिम जांचने के लिए कर्मचारी जैसा प्रवेश देना शुरू हुआ है। हमने 16 अक्टूबर की स्पष्टता सहित पूरा लेख व फुटनोट पढ़े। यह API से अधिक है, पर सुरक्षा प्रमाणपत्र पूरा होना या सभी साझेदारों को समान अधिकार मिलना नहीं है।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- छह लोगों को हार्डवेयर, कार्यालय और आंतरिक जोखिम टीम जैसी प्रणाली पहुंच मिलती है; ग्राहक डेटा, कानूनी विशेषाधिकार सामग्री और मॉडल संरचना जैसे अपवाद हैं।
- कंपनी कहती है प्रकाशन रोक नहीं सकती, लेकिन पूर्वनिर्धारित श्रेणियां हटवा सकती है और अंतिम वर्गीकरण उसी का है। METR प्राप्त पहुंच और जानकारी पर कुछ बयान दे सकता है।
केवल API पूरा जोखिम नहीं दिखाती
उत्तर गलतियां दिखा सकते हैं, सभी सुरक्षा, प्रशिक्षण निर्णय और आंतरिक घटनाएं नहीं। कंपनी दुरुपयोग सामग्री व कारोबारी रहस्य खोले बिना सूचना अंतर कम करना चाहती है। वह बैंक में तैनात जांचकर्ताओं की अधूरी उपमा देती है। पहुंच का डिजाइन सब देखने का प्रमाण नहीं। कौन से सबूत मांग सकते हैं और अपवाद निष्कर्ष कैसे सीमित करते हैं, यही प्रश्न है।
छह लोगों का सीमित सूचना दायरा
छोटी टीम लागू किए जा सकने वाले समझौतों और सुरक्षा मानकों में काम करती है; अन्य METR शोधकर्ता अलग हैं। अपवादों के बाहर कर्मचारी alignment जोखिम सहकर्मी जैसा साझा कर सकते हैं। संरचना सामान्यतः रिसाव जोखिम से बाहर है; अत्यंत प्रासंगिक होने पर स्पष्ट आंतरिक मंजूरी से मिल सकती है। हमारी व्याख्या: कर्मचारी जैसा, असीम या पूरे METR, साझेदारों और ग्राहकों के लिए सूचना मार्ग नहीं।
वीटो नहीं, फिर भी हटाने की सीमा
METR जोखिम, घटनाओं और तरीकों का विश्लेषण प्रकाशित करेगा। कंपनी कहती है रोक नहीं सकती, लेकिन गोपनीय IP जैसी तय श्रेणियां हटवा सकती है और उनका अंतिम निर्धारण करती है। METR प्राप्त जानकारी व पहुंच पर कुछ विवरण दे सकता है। 16 अक्टूबर को यह स्पष्ट किया गया। इसे असीम प्रकाशन या कंपनी के शून्य प्रभाव की तरह लिखना गलत होगा। रिपोर्ट और सबूत की सीमाएं साथ पढ़ें।
तीन स्तर एक ही वादा नहीं
पहले स्तर में कंपनी संकरा प्रवेश तय व प्रकाशन मंजूर करती है। दूसरे में अधिक सूचना और बिना मंजूरी प्रकाशन है, पर श्रेणी हटाई जा सकती है और मूल्यांकनकर्ता औचित्य पर बोल सकता है। तीसरे में METR जैसा कर्मचारी प्रवेश जुड़ता है। SecureBio प्रकाशित पायलट के बाद अगस्त रिपोर्ट का रासायनिक-जैविक अध्याय जांच रहा है। Accenture और Faculty शुरुआती हैं; Hugging Face से केवल शुरुआती चर्चा है, समान समझौता पूरा नहीं।
कौन सा अगला प्रमाण उपयोगी होगा
कंपनी विशेषज्ञता, शेयर या वित्तीय-संचालन निर्भरता का अभाव, सार्थक प्रवेश और प्रकाशन स्वतंत्रता चाहती है। हमने हर संबंध की पुष्टि नहीं की। अगला प्रमाण वास्तविक रिपोर्ट है: मॉडल, अवधि, उपलब्ध सबूत, अपवाद और अनिश्चितता। स्वैच्छिक तैनाती अधिक जानकार मूल्यांकन दे सकती है, पर सुरक्षा प्रमाणपत्र या हर जोखिम की जांच नहीं। आकलन प्रकाशित व सिद्ध सामग्री से हो, कार्यालय प्रवेश को मॉडल रैंकिंग अंक न बनाएं।
यह क्यों अहम है
हमारे विश्लेषण में स्वतंत्रता नाम से नहीं, पहुंच, प्रकाशन और रोके गए सबूत से जांची जानी चाहिए। अंदर रहना सूचना अंतर घटा सकता है, पर सार्वजनिक निष्कर्ष व सीमाएं जरूरी हैं।
सीमाएँ और उपलब्धता
यह कंपनी की व्याख्या है, निजी समझौते की हमारी जांच या METR का नया जोखिम फैसला नहीं। दूसरे संबंध संकरे हैं। ग्राहक डेटा नहीं देखा और सार्वजनिक प्रणाली पहुंच नहीं खुलती।
स्रोत और प्रमाण
स्रोत की तारीख: · स्रोत जाँचा गया:
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।