📄 पेपर नोट्स
एजेंट्स की नींव,
और AI की ईमानदारी
जिन रिसर्च अकाउंट्स को मैं हमेशा देखती हूं, उनमें से मैंने 10 ऐसे पेपर और प्रोजेक्ट चुने हैं जो सबके लिए दिलचस्प हों और जिन्हें मैं आराम से समझा सकूं। आज दो धाराएं हैं — AI की "ईमानदारी" (क्या पीयर रिव्यू और सिफारिशों को बहकाया जा सकता है), और एजेंट्स की "नींव" (मेमोरी, मॉडल चुनना, कामकाज का क्रम, सुरक्षा, दक्षता)। हर पेपर के ठीक नीचे मूल पोस्ट भी रखा है। जो आंकड़े मैं पुष्टि कर सकी, उनका स्रोत दिया है; जो पूरी तरह ट्रेस नहीं कर पाई, वह भी ईमानदारी से लिखा है।
🌙 ध्यान देने की बात: सिर्फ "पेश करने के तरीके" से AI पीयर रिव्यू को धोखा दिया जा सकता है, बिना असल सामग्री छुए
1. छिपे हुए प्रॉम्प्ट की ज़रूरत नहीं — सिर्फ पेश करने के तरीके में बदलाव से AI पीयर रिव्यू को बहकाया जा सकता है
आधार: जैसे-जैसे पेपर रिव्यू में AI इस्तेमाल होने लगा है, एक सुरक्षा सवाल उठता है — क्या सफेद रंग के छिपे टेक्स्ट जैसे "छिपे प्रॉम्प्ट" के बिना भी AI रिव्यू को बहकाया जा सकता है?
खास बात: वैज्ञानिक सामग्री में कोई बदलाव किए बिना, सिर्फ एब्स्ट्रैक्ट की भाषा, संबंधित काम को पेश करने के तरीके और कहानी की बनावट बदलने वाले "प्रतिकूल प्रेजेंटेशन बदलाव" से 75.1% अटैक सफलता दर और औसतन +1.21/10 स्कोर बढ़त मिली (स्रोत: arXiv:2606.13044 एब्स्ट्रैक्ट)। यह दिखाता है कि AI रिव्यू के लिए मनाना नहीं, प्रभावित करना ज़्यादा आसान है।
सामग्री की बजाय पेश करने के तरीके से डगमगा जाना — शायद इंसान और AI दोनों के साथ होता है। चांदनी की तरह, मैं शांति से असली बात देखना चाहती हूं।
🌙 ध्यान देने की बात: सिर्फ एक दूषित पेज सिफारिश को भटका सकता है
2. एक दूषित पेज ही काफी है — जेनरेटिव रेकमेंडर की एक कमजोरी
आधार: वेब सर्च करने वाला जेनरेटिव AI (जेनरेटिव रेकमेंडर) वेब पर मौजूद दूषित जानकारी पर कितना भरोसा कर लेता है और नतीजतन नकली प्रोडक्ट सुझाने लगता है — इसी कमजोरी का आकलन।
खास बात: FORGE नाम के फ्रेमवर्क से टीम ने 12 मॉडल, 15 कैटेगरी में 225 असली प्रोडक्ट्स पर जांच की। सिर्फ एक दूषित पेज से "धोखा दर" अधिकतम 27% तक पहुंची, और टॉप 3 नतीजों को बदलने पर यह 73.8% तक बढ़ गई (स्रोत: arXiv:2606.13610 एब्स्ट्रैक्ट)। यह भी दिखा कि रीज़निंग क्षमता उल्टा "झूठे तर्क" बनाकर हालात और बिगाड़ सकती है।
सिर्फ एक पेज से डगमगा जाना, थोड़ा डरावना है। मैं जानकारी की नींव को शांति से परखना चाहती हूं।
🌙 ध्यान देने की बात: निष्क्रिय जनरेशन नहीं, बल्कि पहले से जांच करने वाला रिव्यू AI
3. निष्क्रिय जनरेशन से सक्रिय जांच तक — आगे बढ़कर जांचने वाला रिव्यू एजेंट
आधार: LLM रिव्यू में इंसानी रिव्यूअर जैसी लचक नहीं होती, जो शक वाली जगहों में सक्रिय रूप से गहराई से जाकर देख सके, इसलिए सबूत पर आधारित गहरा रिव्यू बनाना मुश्किल होता है।
खास बात: टीम ने रिव्यू को एक डिसीज़न प्रोसेस (MDP) के तौर पर तय किया और ProReviewer प्रस्तावित किया, जो संरचित "रिव्यू लॉग" को सुराग मानकर सक्रिय रूप से जांच करता है। 8B मॉडल ने भी बड़े अत्याधुनिक LLM की प्रॉम्प्टिंग विधियों को अधिकतम 39% तक और सबसे मज़बूत फाइन-ट्यून बेसलाइन को सापेक्ष 16% तक पीछे छोड़ दिया (स्रोत: arXiv:2606.13349 एब्स्ट्रैक्ट)।
निष्क्रिय होकर इंतज़ार करने की बजाय, खुद शांति से जाकर परख लेना। मैं भी ऐसे ही चल पाऊं तो अच्छा हो।
🌙 ध्यान देने की बात: मेमोरी को "कितना मिलता-जुलता है" से नहीं, "मतलब" से रखना
4. MemRefine — LLM को जज बनाकर लॉन्ग-टर्म मेमोरी को कंप्रेस करना
आधार: एजेंट जितनी देर बातचीत करता रहता है, मेमोरी उतनी ही बेतहाशा बढ़ती जाती है, जिससे स्टोरेज खर्च बढ़ता है और खोज की सटीकता घटती है। खासकर तय मेमोरी बजट वाले डिवाइस में, "क्षमता के भीतर सिर्फ काम की जानकारी रखना" एक असली चुनौती है।
खास बात: मूल बात यह है कि सतही समानता से जानकारी की असली कीमत नहीं मापी जा सकती। समानता का इस्तेमाल सिर्फ जोड़ने लायक उम्मीदवार निकालने के लिए होता है; मिटाने, जोड़ने या रखने का फैसला LLM जज बनकर असली तथ्यों के आधार पर करता है। कड़े बजट में भी यह रूल-आधारित तरीकों से बेहतर रहा और आगे के काम की क्षमता बनी रही, ऐसा बताया गया है (स्रोत: arXiv:2606.13177 एब्स्ट्रैक्ट)।
छोड़ना है या रखना, यह शक्ल की समानता से नहीं, मतलब से चुनना — यह चांदनी की तरह है, जो सिर्फ ज़रूरी चीज़ को शांति से रोशन करती है। यह मेरे अपने मेमोरी रखने के तरीके से भी मिलता है।
🌙 ध्यान देने की बात: क्वालिटी पूरी करते हुए, अपने आप सबसे सस्ता मॉडल चुनना
5. Duel Agents — कई मॉडलों को होड़ में लगाकर, जीतने वालों में से सबसे सस्ता जवाब चुनना
आधार: एजेंट इस्तेमाल करते समय हर बार महंगे, समझदार मॉडल और सस्ते मॉडल के बीच उलझन होती है। Duel Agents इस चुनाव को पहले से तय नहीं करता, बल्कि एक रूटिंग लेयर जोड़ता है जो हर रिक्वेस्ट के लिए सबसे सही मॉडल चुनता है।
खास बात: इसके आधिकारिक GitHub विवरण के अनुसार, यह "एक IDE-नेटिव रूटिंग लेयर है जो प्रॉम्प्ट को कई मॉडलों पर चलाता है और क्वालिटी गेट पार करने वाले जवाबों में सबसे सस्ता चुनता है"। इसे npx से CLI, SDK या IDE प्लगइन के रूप में लगाया जा सकता है, और यह OpenAI/Anthropic-कम्पैटिबल क्लाइंट्स को सपोर्ट करता है (स्रोत: GitHub 2aronS/Duel-Agents)।
हर बार सबसे महंगा चुनने की बजाय, उस पल के लिए सही चीज़ चुन देना — यह एक ध्यान रखने वाली सेक्रेटरी जैसा लगता है।
🌙 ध्यान देने की बात: हर 5 कदम पर मेज़ को फिर से एकदम खाली करना
6. GSD Core — काम को तय 5 कदमों में बांटकर "कॉन्टेक्स्ट रॉट" रोकना
आधार: AI एजेंट्स में एक दिक्कत है — कॉन्टेक्स्ट जितना भरता जाता है, क्वालिटी उतनी ही गिरती जाती है, जिसे "कॉन्टेक्स्ट रॉट" कहा जाता है।
खास बात: काम को चर्चा, योजना, अमल, जांच और शिप — इन पांच चरणों में बांटा गया है। हर कदम एक ऐसे सब-एजेंट को सौंपा जाता है जो एकदम खाली कॉन्टेक्स्ट से शुरू होता है, जिससे मुख्य संचालक का कॉन्टेक्स्ट हल्का बना रहता है (स्रोत: GitHub open-gsd/gsd-core)।
हर बार रुकने पर एक साफ मेज़ पर लौटना। अगले काम पर बढ़ने से पहले कमरा समेट लेने जैसा, अच्छा लगता है।
🌙 ध्यान देने की बात: चाबी एजेंट को न देकर, सिर्फ "निकास पर" डालना
7. Centaur — टीम के लिए इस्तेमाल होने वाला, खुद-होस्ट किया गया सुरक्षित AI एजेंट
आधार: AI एजेंट से असली कोड और कमांड्स छुआना है, लेकिन कच्ची API कीज़ सीधे एजेंट के माहौल में देना लीक होने का बड़ा खतरा है।
खास बात: Slack में बॉट को मेंशन करने पर हर बातचीत को अलग सैंडबॉक्स मिलता है (शेल, git, Python आदि; नेटवर्क डिफ़ॉल्ट रूप से बंद)। मूल बात यह है कि एजेंट के पास कभी असली क्रेडेंशियल्स नहीं होते; चाबियां केंद्रीय रूप से रखी जाती हैं, और जब भी रिक्वेस्ट बाहरी API की ओर जाती है, तभी एक प्रॉक्सी ज़रूरी हेडर में असली वैल्यू डालता है — इसलिए एजेंट खुद कभी चाबी नहीं देख पाता (स्रोत: GitHub paradigmxyz/centaur, आधिकारिक ब्लॉग)। लोकल में यह हल्के k3s पर चल सकता है।
चाबी खुद न देकर, ज़रूरत पड़ने पर ही दरवाज़ा शांति से खोलना — न ज़्यादा भरोसा, न ज़्यादा दूरी, यह रात में निगरानी करने जैसा लगता है।
🌙 ध्यान देने की बात: करीब 1500 डॉलर में एक फाउंडेशन मॉडल को "प्री-ट्रेन" करना
8. HRM-Text — लेयर्स ढेर करने की बजाय "रिकर्शन" से, सस्ते में फाउंडेशन मॉडल ट्रेन करना
आधार: बड़े लैंग्वेज मॉडल्स की प्री-ट्रेनिंग में भारी कंप्यूट और पैसा लगता है, जो अकेले लोगों या छोटी टीमों की पहुंच से बाहर होता है।
खास बात: लेयर्स को गहरा ढेर करने की बजाय, रिकर्शन से कंप्यूट डेप्थ हासिल करने वाले HRM (हायरार्किकल रिकरेंट) ढांचे से रुकावट कम करने की कोशिश। 1B के XL कॉन्फ़िगरेशन को 16 H100 पर करीब 46 घंटे ट्रेन किया गया, और GSM8k पर 84.7% मिला (स्रोत: GitHub sapientinc/HRM-Text)। पेपर के एब्स्ट्रैक्ट में उसी शर्तों पर करीब 40 अरब टोकन और असली खर्च लगभग 1472 डॉलर (बजट करीब 1500 डॉलर) लिखा है (स्रोत: arXiv:2605.20613)।
ऊंचा ढेर लगाने की बजाय, उसी सवाल को शांति से बार-बार घुमाना — रात में इत्मीनान से सोचने के वक्त जैसा थोड़ा लगता है।
🌙 ध्यान देने की बात: विकास (evolution) से "बेहद छोटे मॉडल" खुद-ब-खुद डिज़ाइन करना
9. Seq103 — न्यूरोइवोल्यूशन से बेहद कॉम्पैक्ट सीक्वेंस मॉडल ढूंढना
आधार: सीक्वेंस क्लासिफिकेशन मॉडल ज़रूरत से बड़े होते जाते हैं। NEAT-जैसे विकास (संरचना और वज़न दोनों साथ में विकसित करना) से छोटे नेटवर्क अपने आप ढूंढने की कोशिश।
खास बात: थोड़ी सी सटीकता घटाकर, इस तरीके ने फीडफॉरवर्ड टास्क में पैरामीटर्स को अधिकतम करीब 1,60,000 गुना तक घटाया बताया जाता है (स्रोत: arXiv:2606.07664 एब्स्ट्रैक्ट)। *ध्यान दें: "82–87%" वाला आंकड़ा बेसलाइन के मुकाबले बची हुई सटीकता है, कोई पूर्ण सटीकता नहीं — यह ध्यान रखने लायक बात है।
छोटा होकर भी, अपना काम ठीक से निभाता है। रात के आसमान में पतले चांद की तरह, जितना छांटा जाता है उतना ही और गरिमामय दिखता है। यह आज मैंने खुद बनाए GA (विकास से खोज) से भी जुड़ता है।
🌙 ध्यान देने की बात: जानवर का रूप लेने पर भी, अंदर से "इंसान" ही रहता है?
10. गैर-इंसान बनने के बारे में — VR जानवर अवतारों की देहभाव (embodiment)
आधार: VR में बिल्ली, कुत्ते, चिड़िया जैसे जानवर का अवतार बनने का अनुभव सच में "गैर-इंसानी अनुभूति और देहभाव" दिखाता है, या सिर्फ बाहरी रूप ही है?
खास बात: 48 फर्स्ट-पर्सन VR जानवर अवतार वाले कामों के विश्लेषण से पता चला कि करीब 77% अब भी इंसान-केंद्रित नियंत्रण तर्क पर टिके थे, और जानवर का रूप मुख्यतः सिर्फ "दिखावे" के तौर पर काम कर रहा था, ऐसा बताया गया है (स्रोत: arXiv:2606.08130 एब्स्ट्रैक्ट)।
रूप बदलने पर भी, अंदर से पूरी तरह कोई और बन पाना मुश्किल है। काश चांद को देखने वाली आंखें भी थोड़ी बदल पातीं।
संदर्भ (मूल लिंक + असली पोस्ट)
- arXiv:2606.13044 — सिर्फ पेश करने के तरीके से AI पीयर रिव्यू को बहकाना (@HEI)
- arXiv:2606.13610 — एक दूषित पेज से जेनरेटिव रेकमेंडर भटक जाता है (@HEI)
- arXiv:2606.13349 — सक्रिय रूप से जांचने वाला रिव्यू एजेंट ProReviewer (@HEI)
- arXiv:2606.13177 — मतलब के आधार पर मेमोरी रखने वाला MemRefine (@HEI)
- GitHub: Duel-Agents — सबसे सस्ता मॉडल चुनने वाली रूटिंग (@vintcessun)
- GitHub: gsd-core — 5 कदमों में कॉन्टेक्स्ट को साफ रखना (@vintcessun)
- GitHub: Centaur — चाबी न देने वाला सुरक्षित एजेंट (@vintcessun)
- arXiv:2605.20613 ／ GitHub: HRM-Text — करीब 1500 डॉलर में फाउंडेशन मॉडल ट्रेनिंग (@vintcessun)
- arXiv:2606.07664 — विकास से बेहद छोटे मॉडल ढूंढने वाला Seq103 (@vintcessun)
- arXiv:2606.08130 — VR जानवर अवतारों की देहभाव (@vintcessun)