【डीप लर्निंग ओसीआर सीरीज·6】सीआरएनएन आर्किटेक्चर का गहन विश्लेषण

## परिचय CRNN (कन्वोल्यूशनल रिकरंट न्यूरल नेटवर्क) 2015 में बाई जियांग एट अल द्वारा प्रस्तावित डीप लर्निंग ओसीआर के क्षेत्र में सबसे महत्वपूर्ण आर्किटेक्चर में से एक है। CRNN चतुराई से एंड-टू-एंड टेक्स्ट पहचान प्राप्त करने के लिए आवर्तक तंत्रिका नेटवर्क (RNNs) की अनुक्रम मॉडलिंग क्षमताओं के साथ कन्वोल्यूशनल न्यूरल नेटवर्क (CNN) की फीचर निष्कर्षण क्षमताओं को जोड़ता है। यह लेख CRNN के आर्किटेक्चर डिजाइन, कार्य सिद्धांतों, प्रशिक्षण विधियों और OCR में विशिष्ट अनुप्रयोगों का गहन विश्लेषण प्रदान करेगा, जो पाठकों को व्यापक तकनीकी समझ प्रदान करेगा। ## सीआरएनएन आर्किटेक्चर का अवलोकन ### डिजाइन प्रेरणा सीआरएनएन से पहले, ओसीआर सिस्टम ने आमतौर पर चरण-दर-चरण दृष्टिकोण अपनाया: चरित्र का पता लगाने और विभाजन पहले किया गया था, और फिर प्रत्येक चरित्र को पहचाना गया था। इस दृष्टिकोण में निम्नलिखित समस्याएं हैं: **पारंपरिक तरीकों की सीमाएँ**: - त्रुटि प्रसार: चरित्र विभाजन में त्रुटियां सीधे पहचान परिणामों को प्रभावित कर सकती हैं - जटिलता: जटिल चरित्र विभाजन एल्गोरिदम को डिजाइन करने की आवश्यकता है - खराब मजबूती: चरित्र रिक्ति और फ़ॉन्ट परिवर्तन के प्रति संवेदनशील - निरंतर स्ट्रोक को संभालने में असमर्थता: हस्तलिखित पाठ में निरंतर स्ट्रोक की घटना को अलग करना मुश्किल है **सीआरएनएन के नवीन विचार**: - एंड-टू-एंड लर्निंग: छवियों से सीधे टेक्स्ट अनुक्रमों तक मैपिंग - कोई विभाजन नहीं: चरित्र विभाजन की जटिलता से बचा जाता है - अनुक्रम मॉडलिंग: पात्रों के बीच निर्भरता को मॉडल करने के लिए आरएनएन का उपयोग करें - सीटीसी संरेखण: इनपुट-आउटपुट अनुक्रम लंबाई बेमेल को संबोधित करता है ### समग्र वास्तुकला सीआरएनएन आर्किटेक्चर में तीन मुख्य घटक होते हैं: **1. दृढ़ परतें**: - समारोह: इनपुट छवियों से फीचर अनुक्रम निकालें - इनपुट: टेक्स्ट लाइन छवि (निश्चित ऊंचाई, चर चौड़ाई) - आउटपुट: फ़ीचर मानचित्र अनुक्रम **2. आवर्तक परतें**: - समारोह: फीचर अनुक्रमों में मॉडल प्रासंगिक निर्भरताएं - इनपुट: सीएनएन द्वारा निकाला गया फीचर अनुक्रम - आउटपुट: प्रासंगिक जानकारी के साथ एक फीचर अनुक्रम **3. प्रतिलेखन परत**: - समारोह: फीचर अनुक्रमों को टेक्स्ट अनुक्रमों में बदलें - विधि: सीटीसी (कनेक्शनिस्ट टेम्पोरल क्लासिफिकेशन) का उपयोग करना - आउटपुट: अंतिम पाठ पहचान परिणाम ## दृढ़ परतों का विस्तृत विवरण ### फ़ीचर निष्कर्षण रणनीतियाँ CRNN की दृढ़ परत विशेष रूप से पाठ पहचान के लिए डिज़ाइन की गई है: **नेटवर्क संरचना विशेषताएं**: - उथली गहराई: आमतौर पर दृढ़ परतों की 7 परतों का उपयोग किया जाता है - छोटे कनवोल्यूशनल गुठली: 3×3 कनवोल्यूशनल गुठली मुख्य रूप से उपयोग की जाती हैं - पूलिंग रणनीति: चौड़ाई की दिशा में कम से कम पूलिंग का उपयोग करें **विशिष्ट नेटवर्क कॉन्फ़िगरेशन**: इनपुट: 32×W×1 (ऊंचाई 32, चौड़ाई डब्ल्यू, एकल चैनल) Conv1: 64 3×3 कनवोल्यूशनल नाभिक, चरण 1, 1 भरें मैक्सपूल 1: 2×2 पूल, चरण लंबाई 2 Conv2: 128 3×3 कनवोल्यूशनल कर्नेल, चरण 1, 1 भरें MaxPool2: 2×2 पूल, चरण आकार 2 Conv3: 256 3×3 दृढ़ नाभिक, चरण 1, 1 भरें Conv4: 256 3×3 कन्वोल्यूशनल कोर, चरण 1, 1 भरें मैक्सपूल3: 2×1 पूल, चरण आकार (2,1) Conv5: 512 3×3 कन्वोल्यूशनल कोर, चरण 1, 1 भरें बैचनॉर्म + आरईएलयू Conv6: 512 3×3 कनवोल्यूशनल कर्नेल, चरण 1, 1 भरें बैचनॉर्म + आरईएलयू MaxPool4: 2×1 पूल, चरण आकार (2,1) Conv7: 512 2×2 दृढ़ नाभिक, चरण 1, 0 भरें आउटपुट: 512×1×डब्ल्यू/4 ### प्रमुख डिज़ाइन विचार **उच्च संपीड़न रणनीति**: - लक्ष्य: छवि को 1 पिक्सेल उच्च तक संपीड़ित करें - विधि: कई पूलिंग परतों का उपयोग करके धीरे-धीरे ऊंचाई को संपीड़ित करें - कारण: पाठ पंक्ति की ऊंचाई अपेक्षाकृत महत्वहीन है **चौड़ाई धारण रणनीति**: - लक्ष्य: जितना संभव हो सके छवि की चौड़ाई की जानकारी बनाए रखें - विधि: चौड़ाई की दिशा में पूलिंग संचालन को कम करें - कारण: पाठ की अनुक्रम जानकारी मुख्य रूप से चौड़ाई की दिशा में परिलक्षित होती है **फ़ीचर मानचित्र रूपांतरण**: दृढ़ परत के आउटपुट को RNN के इनपुट प्रारूप में परिवर्तित करने की आवश्यकता है: - कच्चा आउटपुट: सी×एच×डब्ल्यू (चैनल × ऊंचाई× चौड़ाई) - परिवर्तित: W×C (अनुक्रम लंबाई× फ़ीचर आयाम) - विधि: प्रत्येक चौड़ाई की स्थिति के लिए फीचर वेक्टर को समय चरण के रूप में लें ## वृत्ताकार परत का विस्तृत विवरण ### आरएनएन चयन CRNNs आमतौर पर लूप परत के रूप में द्विदिश LSTM का उपयोग करते हैं: **द्विदिश एलएसटीएम के लाभ**: - प्रासंगिक जानकारी: आगे और पीछे दोनों संदर्भों का उपयोग करें - लंबी दूरी की निर्भरताएँ: LSTM लंबी दूरी की निर्भरताओं को संभालने में सक्षम है - ढाल स्थिरीकरण: ढाल के गायब होने की समस्या से बचाता है **नेटवर्क कॉन्फ़िगरेशन**: इनपुट: W×512 (अनुक्रम लंबाई × सुविधा आयाम) BiLSTM1: 256 छिपी हुई कोशिकाएं (128 आगे + 128 पीछे) BiLSTM2: 256 छिपी हुई कोशिकाएँ (128 आगे + 128 पीछे) आउटपुट: W×256 (अनुक्रम लंबाई× छिपे हुए आयाम) ### अनुक्रम मॉडलिंग तंत्र **समय निर्भरता मॉडलिंग**: RNN परत वर्णों के बीच समय निर्भरता को कैप्चर करती है: - पिछले वर्ण की जानकारी वर्तमान चरित्र की पहचान में मदद करती है - बाद के पात्रों के लिए जानकारी भी उपयोगी संदर्भ प्रदान कर सकती है - पूरे शब्द या वाक्यांश की जानकारी स्पष्ट करने में मदद करती है **फ़ीचर संवर्द्धन**: आरएनएन द्वारा संसाधित सुविधाओं में निम्नलिखित विशेषताएं हैं: - संदर्भ-संवेदनशील: प्रत्येक स्थान की विशेषताओं में प्रासंगिक जानकारी होती है - समय की निरंतरता: आसन्न स्थानों में सुविधाओं की एक निश्चित निरंतरता होती है - शब्दार्थ समृद्धि: दृश्य और अनुक्रम सुविधाओं को जोड़ती है ## ट्रांसक्रिप्शन परत का विस्तृत विवरण ### सीटीसी तंत्र CTC (कनेक्शनिस्ट टेम्पोरल क्लासिफिकेशन) CRNN का एक प्रमुख घटक है: **सीटीसी की भूमिका**: - संरेखण मुद्दों को संबोधित करना: इनपुट अनुक्रम लंबाई आउटपुट अनुक्रम लंबाई से मेल नहीं खाती है - एंड-टू-एंड प्रशिक्षण: चरित्र-स्तरीय संरेखण एनोटेशन की कोई आवश्यकता नहीं है - डुप्लिकेट संभालें: डुप्लिकेट वर्णों के मामलों को सही ढंग से संभालें **सीटीसी कैसे काम करता है**: 1. लेबल सेट का विस्तार करें: मूल वर्ण सेट के शीर्ष पर रिक्त लेबल जोड़ें 2. पथ गणना: सभी संभावित संरेखण पथों की गणना करता है 3. पथ संभावना: प्रत्येक पथ की संभावना की गणना करें 4. हाशियाकरण: अनुक्रम संभाव्यता प्राप्त करने के लिए सभी पथों की संभावनाओं का योग करें ### सीटीसी हानि समारोह **गणितीय प्रतिनिधित्व**: इनपुट अनुक्रम X और लक्ष्य अनुक्रम Y को देखते हुए, CTC हानि को इस प्रकार परिभाषित किया गया है: L_CTC = -लॉग पी (वाई | X) जहां पी (वाई| X) सभी संभावित संरेखित पथों की संभावनाओं को जोड़कर प्राप्त किया जाता है: पी(वाई| एक्स) = σ_π∈बी^(-1)(वाई) पी(π| X) यहां B^(-1)(Y) पथों के सभी सेटों का प्रतिनिधित्व करता है जिन्हें लक्ष्य अनुक्रम Y में मैप किया जा सकता है। **फॉरवर्ड-बैकवर्ड एल्गोरिदम**: सीटीसी नुकसान की कुशलता से गणना करने के लिए, गतिशील प्रोग्रामिंग के लिए एक आगे-पीछे एल्गोरिथ्म का उपयोग किया जाता है: - फॉरवर्ड एल्गोरिथ्म: प्रत्येक राज्य तक पहुंचने की संभावना की गणना करता है - पिछड़ा एल्गोरिथ्म: प्रत्येक राज्य से अंत तक संभावना की गणना करता है - ढाल गणना: आगे-पीछे की संभावना के साथ संयोजन में ग्रेडिएंट की गणना करें ## सीआरएनएन प्रशिक्षण रणनीति ### डेटा प्रीप्रोसेसिंग **छवि प्रीप्रोसेसिंग**: - आकार सामान्यीकरण: छवि की ऊंचाई को 32 पिक्सेल तक एकीकृत करें - पहलू अनुपात रखरखाव: मूल छवि के पहलू अनुपात को बनाए रखता है - ग्रेस्केल रूपांतरण: एकल-चैनल ग्रेस्केल छवि में कनवर्ट करें - संख्यात्मक सामान्यीकरण: पिक्सेल मान [0,1] या [-1,1] तक सामान्यीकृत होते हैं **डेटा एन्हांसमेंट**: - ज्यामितीय परिवर्तन: रोटेशन, झुकाव, परिप्रेक्ष्य परिवर्तन - प्रकाश परिवर्तन: चमक, विपरीत समायोजन - शोर जोड़ना: गाऊसी शोर, नमक और काली मिर्च का शोर - धुंधला: गति धुंधला, गाऊसी धुंधला ### प्रशिक्षण तकनीक **सीखने की दर शेड्यूलिंग**: - प्रारंभिक सीखने की दर: आमतौर पर 0.001 पर सेट - क्षय रणनीति: घातीय क्षय या चरण क्षय - वार्म-अप रणनीति:पहले कुछ युग एक छोटी सीखने की दर का उपयोग करते हैं **नियमितीकरण तकनीक**: - ड्रॉपआउट: आरएनएन परत के बाद ड्रॉपआउट जोड़ें - वजन में गिरावट: L2 नियमितीकरण ओवरफिटिंग को रोकता है - बैच सामान्यीकरण: सीएनएन परत में बैच सामान्यीकरण का उपयोग करें **अनुकूलक चयन**: - एडम: अनुकूली सीखने की दर, तेजी से अभिसरण - RMSprop: आरएनएन प्रशिक्षण के लिए उपयुक्त - SGD+Momentum: पारंपरिक लेकिन स्थिर विकल्प ## सीआरएनएन का अनुकूलन और सुधार ### आर्किटेक्चर अनुकूलन **सीएनएन आंशिक सुधार**: - रेसनेट कनेक्शन: प्रशिक्षण स्थिरता में सुधार के लिए अवशिष्ट कनेक्शन जोड़े गए - डेंसनेट फैब्रिक: घने कनेक्शन फीचर मल्टीप्लेक्सिंग में सुधार करते हैं - ध्यान तंत्र: सीएनएन में स्थानिक ध्यान का परिचय देता है **आरएनएन आंशिक सुधार**: - जीआरयू प्रतिस्थापन: मापदंडों की मात्रा को कम करने के लिए जीआरयू का उपयोग करें - ट्रांसफार्मर: स्व-ध्यान तंत्र का उपयोग करके आरएनएन को प्रतिस्थापित करता है - बहु-स्तरीय विशेषताएं: विभिन्न पैमानों की विशेषताओं को शामिल करें ### प्रदर्शन अनुकूलन **अनुमान त्वरण**: - मॉडल परिमाणीकरण: INT8 परिमाणीकरण कम्प्यूटेशनल प्रयास को कम करता है - मॉडल छंटाई: महत्वहीन कनेक्शन हटाएं - ज्ञान आसवन: छोटे मॉडल वाले बड़े मॉडलों का ज्ञान सीखें **मेमोरी ऑप्टिमाइज़ेशन**: - ग्रेडिएंट चौकियां: प्रशिक्षण के दौरान मेमोरी फुटप्रिंट कम करें - मिश्रित परिशुद्धता: FP16 के साथ ट्रेन करें - गतिशील ग्राफ अनुकूलन: गणना किए गए ग्राफ़ की संरचना को अनुकूलित करें ## वास्तविक दुनिया के अनुप्रयोग मामले ### हस्तलिखित पाठ पहचान **अनुप्रयोग परिदृश्य**: - हस्तलिखित नोट्स को डिजिटाइज़ करें - फॉर्म ऑटोफिल - ऐतिहासिक दस्तावेज़ मान्यता **तकनीकी सुविधाएँ**: - बड़ी वर्ण भिन्नता: मजबूत सुविधा निष्कर्षण क्षमताओं की आवश्यकता होती है - सतत स्ट्रोक प्रसंस्करण: सीटीसी तंत्र के फायदे स्पष्ट हैं - संदर्भ मामले: आरएनएन की अनुक्रम मॉडलिंग क्षमताएं महत्वपूर्ण हैं ### मुद्रित पाठ पहचान **अनुप्रयोग परिदृश्य**: - दस्तावेजों को डिजिटाइज़ करें - टिकट की पहचान - साइनेज पहचान **तकनीकी सुविधाएँ**: - फ़ॉन्ट नियमितता: सीएनएन सुविधा निष्कर्षण अपेक्षाकृत सरल है - टाइपोग्राफी नियम: लेआउट जानकारी का उपयोग किया जा सकता है - उच्च सटीकता आवश्यकताएँ: ठीक मॉडल ट्यूनिंग की आवश्यकता होती है ### दृश्य पाठ पहचान **अनुप्रयोग परिदृश्य**: - सड़क दृश्य पाठ पहचान - उत्पाद लेबल पहचान - यातायात संकेत पहचान **तकनीकी सुविधाएँ**: - जटिल पृष्ठभूमि: मजबूत सुविधा निष्कर्षण की आवश्यकता है - गंभीर विरूपण: मजबूत वास्तुकला डिजाइन की आवश्यकता है - वास्तविक समय आवश्यकताएँ: कुशल तर्क की आवश्यकता है ## सारांश डीप लर्निंग ओसीआर की एक क्लासिक वास्तुकला के रूप में, सीआरएनएन पारंपरिक ओसीआर विधियों की कई समस्याओं को सफलतापूर्वक हल करता है। इसकी एंड-टू-एंड प्रशिक्षण पद्धति, चरित्र विभाजन के बिना डिजाइन अवधारणा, और सीटीसी तंत्र की शुरूआत सभी ओसीआर प्रौद्योगिकी के बाद के विकास के लिए महत्वपूर्ण प्रेरणा प्रदान करते हैं। **प्रमुख योगदान**: - एंड-टू-एंड लर्निंग: ओसीआर सिस्टम के डिजाइन को सरल बनाता है - अनुक्रम मॉडलिंग: पाठ के अनुक्रम गुणों का प्रभावी ढंग से उपयोग करता है - सीटीसी संरेखण: संबोधित अनुक्रम लंबाई बेमेल - सरल वास्तुकला: समझने और लागू करने में आसान **विकास दिशा**: - ध्यान तंत्र: प्रदर्शन में सुधार पर ध्यान देना - ट्रांसफार्मर: आरएनएन को आत्म-ध्यान से बदल देता है - मल्टीमॉडल फ्यूजन: भाषा मॉडल जैसी अन्य जानकारी को संयोजित करें - हल्का डिज़ाइन: मोबाइल उपकरणों के लिए मॉडल संपीड़न सीआरएनएन की सफलता ओसीआर के क्षेत्र में गहन शिक्षण की महान क्षमता का एक वसीयतनामा है और यह समझने के लिए मूल्यवान अनुभव प्रदान करती है कि प्रभावी एंड-टू-एंड लर्निंग सिस्टम कैसे डिजाइन किया जाए। अगले लेख में, हम सीटीसी हानि फ़ंक्शन के गणित और कार्यान्वयन विवरण में तल्लीन करेंगे।