एंथ्रोपिक ने सोमवार को कहा कि उसके प्रयोगों से पता चलता है कि छोटे एआई मॉडल स्मार्ट ओवन और ऑफ-ब्रांड एंड्रॉइड टीवी बॉक्स जैसे वाणिज्यिक इंटरनेट-ऑफ-थिंग्स (आईओटी) उपकरणों पर स्वयं को दोहराने में सक्षम होने से कुछ महीने दूर हो सकते हैं।
अपने प्रयोगों में, एंथ्रोपिक ने यह देखने की कोशिश की कि क्या एआई मॉडल कमजोर उपकरणों का पता लगा सकते हैं, खुद को उन उपकरणों में कॉपी कर सकते हैं और मानवीय सहायता के बिना फैलना जारी रख सकते हैं।
इसमें पाया गया कि 30 अरब से कम मापदंडों वाले छोटे मॉडल प्रतिकृति के लिए आवश्यक कई चरणों को पूरा कर सकते हैं।
हालांकि, कंपनी ने पाया कि ऐसे एआई मॉडल भी पूरी प्रक्रिया को शुरू से अंत तक पूरा करने में संघर्ष कर रहे थे।
अपने सरलीकृत परीक्षणों में, जहां कुछ सुरक्षा उपायों को हटा दिया गया था, एंथ्रोपिक ने पाया कि जीएलएम-5.2 और इससे भी मजबूत मॉडल एंड-टू-एंड प्रतिकृति करने में सक्षम थे।
एन्थ्रोपिक ने चेतावनी दी कि प्रतिकृति बनाने वाले मॉडलों को बंद करना मुश्किल होगा क्योंकि कोई केंद्रीय स्विच-ऑफ पॉइंट नहीं है और गैर-एआई मैलवेयर के विपरीत, वे अपरिचित उपकरणों का स्वयं पता लगा सकते हैं, जिससे डेटा सेंटर प्रोसेसर को निशाना बनाया जा सकता है।
इस शोध में फर्म ने एंड्रॉइड टीवी, स्मार्ट उपकरण और अन्य इंटरनेट से जुड़े गैजेट जैसे आईओटी उपकरणों पर ध्यान केंद्रित किया, क्योंकि ये आमतौर पर खराब तरीके से सुरक्षित होते हैं।
एआई क्षेत्र की प्रमुख कंपनी ने यह भी चेतावनी दी कि यदि छोटे मॉडल अपनी ऐतिहासिक दर से बेहतर होते रहे, तो वे इस वर्ष के अंत तक स्वायत्त रूप से प्रतिकृति बनाने में सक्षम हो जाएंगे, और इसके तुरंत बाद छोटे वजन-आधारित प्रतिकृति बनाने वाले भी ऐसा ही करने लगेंगे।
एन्थ्रोपिक ने यह भी कहा कि इस तरह के स्वायत्त एआई सिस्टम धीरे-धीरे फैलेंगे और व्यापक रूप से उपलब्ध, अपेक्षाकृत असुरक्षित कंप्यूटिंग संसाधनों पर निर्भर करेंगे। कंपनी ने आगे कहा कि ऐसे एआई एजेंटों के प्रसार को कठिन बनाने के लिए सिस्टम को मजबूत किया जाना चाहिए।
