जनरेटिव AI का ऑडिट।
जनरेटिव AI के व्यवहार पर एक नियतात्मक, ऑडिट-योग्य नियंत्रण परत।
आर्किटेक्चर का एक हिस्सा मैंने Zenodo पर इस डर से प्रकाशित कर दिया कि कोई मुझसे आगे न निकल जाए। लेकिन सैद्धांतिक मॉडल का विकास, सूत्र, स्थिरांक और अंशांकन पैरामीटर सुरक्षित हैं। और केवल NDA पर हस्ताक्षर के बाद ही साझा किए जाते हैं।
शायद रूखा लगे, पर मैं व्यवस्था के भीतर हूँ और व्यवस्था जैसी है वैसी है। चाहे मुझे पसंद हो या न हो। जो सिस्टम दूसरों का ऑडिट करता है, उसे खुद भी ब्लैक बॉक्स होने का हक़ नहीं। वरना उसका तर्क ही गिर जाएगा। मैं अपनी बौद्धिक संपदा की रक्षा और जो मुझे न्यायसंगत लगता है, उन दोनों के बीच संतुलन खोज रही हूँ। कठिन है।
वे आत्मविश्वास से उत्तर देते हैं, भले ही गलत हों।
जनरेटिव मॉडल प्रायिकता-आधारित हैं। विनियमित परिवेशों में इससे चार संरचनात्मक दरारें रह जाती हैं:
डिज़ाइन के पूर्वाग्रहों के कारण प्रायिकता-आधारित AI की शक्ति का लाभ न उठाना, मेरी समझ में, बड़े पैमाने की भूल होगी। विनियमित परिवेशों के लिए सोचा गया आरंभिक समाधान किसी भी ऐसे उत्पादन-चक्र पर लागू हो सकता है जहाँ AI को शामिल करना केवल-मानवीय कार्य की तुलना में प्रतिस्पर्धी बढ़त दे।
इसे एजेंटिक AI और B2C तक भी विस्तारित किया जा सकता है।
यह उत्पन्न नहीं करता। मॉडल को सुधारता नहीं। उसका ऑडिट करता है।
One-Of-Us एक सशर्त नियतात्मक AI है जो एक स्तर ऊपर बैठता है: यह जनरेटिव AI की निगरानी, ऑडिट और परिरोध करता है, और हर आउटपुट पर वास्तविकता और अखंडता का निर्णय जारी करता है।
एक ही चक्र, इनपुट से निर्णय तक।
किसी को भी एक जैसी जानकारी नहीं मिलती: कई को वस्तु देखने से वंचित रखा जाता है, और वे केवल परिणाम पर निर्णय देते हैं। वस्तु की अवस्था के प्रति उन्हें अंधा रखना प्रायिकता-आधारित मॉडल के पूर्वाग्रहों को कम करता है: कोई भी दो ऑडिटर एक ही ओर से गलती नहीं करते।
मॉडल के विकास के कारण यह आर्किटेक्चर अप्रचलित हो चुका है। अंतिम प्रस्ताव को मैं व्यापार-रहस्य के रूप में सुरक्षित रखती हूँ।
चार अवस्थाएँ। निर्णय एक ही, जारीकर्ता और अनुरेख सहित।
सभी परीक्षण पार करता है। आउटपुट विश्वसनीय है।
→ जारीअर्थगत, शासन या प्रतिकूल विफलता।
किसी LLM द्वारा वीटोऐसे डेटा का दावा जो मूल वस्तु में नहीं हैं।
BoolM1 द्वारा जारीअपेक्षित प्रारूप या संरचना का उल्लंघन।
BoolM2 द्वारा जारीचार-अवस्था तर्क की वंशावली पुरानी है। 1977 में तर्कशास्त्री नुएल बेलनैप ने चार मानों वाला तर्क प्रस्तावित किया —उन्होंने इसे «कंप्यूटर को कैसे सोचना चाहिए» कहा— ताकि मशीन अधूरी या परस्पर-विरोधी जानकारी के साथ बिना टूटे तर्क कर सके: सत्य, असत्य, दोनों में से कोई नहीं और दोनों एक साथ। स्थिर, अस्थिर, शून्य और अमान्य उसी वंश की संतानें हैं: ऐसे संसार के लिए चार निर्णय जहाँ डेटा अनुपस्थित, अतिरिक्त या विरोधाभासी हो सकता है। आधी सदी बाद, बेलनैप का प्रश्न फिर उभर रहा है।
यदि आउटपुट विश्वसनीय नहीं है, तो उसे मानव पर्यवेक्षक तक पहुँचाया जाता है। वह कभी बिना निर्णय के बाहर नहीं जाता।
जोड़े से समूह तक।
पहले मैंने वही आज़माया जो स्पष्ट था: मॉडलों के जोड़ों के बीच सहप्रसरण मापना, ताकि एक साथ विफल होने वालों को दंड मिले। बहु-मॉडल एन्सेम्बल में यह काम नहीं करता: जोड़े बहुगुणित होते हैं, तीसरे पक्ष हर माप को दूषित करते हैं, और गणना समूह के व्यवहार के बारे में कम-से-कम कहती जाती है।
ज़्यादा कूल —और ज़्यादा सटीक— है पूरी निष्पादित रणनीति की त्रुटि को दंडित करना, एक सम्पूर्ण विन्यास के रूप में, उत्पादन में या छाया मोड में। यदि कोई पंक्तिबद्धता विफल होती है, तो वही विशिष्ट रणनीति चयन-योग्य नहीं रहती।
संतुलन और सीमा-रेखा
आउटपुट की अखंडता एक ही लागत के विरुद्ध तनी रहती है। मैं इस दुविधा को गणितीय रूप से, एक पैरेटो फ्रंट पर हल करती हूँ। यही एकमात्र तार्किक तरीका है।
कोई जादुई संख्या नहीं है जिससे छल किया जा सके। कार्यान्वयन को कॉन्फ़िगर करने वाले मनुष्य तय करते हैं कि क्या महत्वपूर्ण है: भार उनके हैं (और ज़िम्मेदारी भी), और कोई भी शून्य हो सकता है। सिस्टम बलों को तौलता है, एक ही निर्णय लौटाता है, और उसे उनकी खींची रेखा से तुलना करता है। उस रेखा से नीचे वह सुधार नहीं गढ़ता: वह रुक जाता है और मामला मनुष्य तक पहुँचा देता है। नियतात्मक तब भी —बल्कि खासकर तब— जब वह आपसे कहता है कि उसे नहीं पता।
यह किसी अकेले AI को नहीं सुधारता। समूह को सुधारता है।
यह अपनी सफलताओं और विफलताओं से सीखता है —पहचाने गए विफलता-प्रतिरूप और मानवीय सत्यापन— एक छाया चरण में, कभी भी ग्राहक के डेटा पर नहीं। उसी संकेत से यह पुनर्गठित करता है कि कौन-से घटक, किन भूमिकाओं में पूल बनाते हैं।
सिस्टम परिशुद्धता की ओर बढ़ता है।
शासन, वादा नहीं।
सुखद संयोग। मैंने यूरोपीय नियामक ढाँचे को जाने बिना यह आर्किटेक्चर डिज़ाइन किया। हम अनुरेखणीयता (मेरी नियतात्मक है, आसान) और संरचित मानवीय निगरानी पर मिलते हैं।
अंतरराष्ट्रीय नियमों की समीक्षा ने मुझे ज़ीरो डेटा रिटेंशन और त्रुटि की विशिष्ट उप-श्रेणियों का निर्गम जोड़ने को प्रेरित किया (यह AI करेगा या कोई मनुष्य, यह मुझे अभी तय करना है)।
ऐसे AI का बुनियादी ढाँचा जिस पर भरोसा किया जा सके।
आर्किटेक्चर आंशिक रूप से प्रकाशित और सिमुलेशन द्वारा सत्यापित · प्रूफ़ ऑफ़ कॉन्सेप्ट की राह पर।
ध्यान दें! बटन आपको, ज़ाहिर है, PayPal पर ले जाता है। बटन एक सादा लिंक है (paypal.me)। मैं PayPal कोड वाला कोई विजेट नहीं लगाती। मुझे आपका डेटा नहीं चाहिए, सच में। दान करने पर आपके डेटा का क्या होता है —और क्या नहीं होता— →