क्षणों की विधि के अलावा, जिसे पिछले अनुभाग में वर्णित किया गया है, अज्ञात वितरण मापदंडों के बिंदुवार अनुमान के अन्य तरीके हैं। इनमें आर। फिशर द्वारा प्रस्तावित अधिकतम संभावना की विधि शामिल है।

A. असतत यादृच्छिक चर।रहने दो एक्स - असतत यादृच्छिक चर, जिसके परिणामस्वरूप n परीक्षण ने मान लिया एक्स 1 , एक्स 2 , ..., एक्स पी . आइए हम मान लें कि मात्रा के वितरण कानून का रूप एक्स दिया गया लेकिन पैरामीटर अज्ञात θ जो इस कानून को परिभाषित करता है। इसके बिंदु का अनुमान लगाना आवश्यक है।

हम इस संभावना को निरूपित करते हैं कि परीक्षण के परिणामस्वरूप मूल्य एक्स पर ले जाएगा एक्स मैं (मैं= 1 , 2, . . . , n), के माध्यम से पी(एक्स मैं ; θ ).

असतत यादृच्छिक मान की संभावना समारोहरैंकएक्स तर्क फ़ंक्शन को कॉल करें θ :

एल (एक्स 1 , एक्स 2 , ..., एक्स पी ; θ ) = पी (एक्स 1 ; θ ) आर(एक्स 2 ; θ ) . . . पी (एक्स n ; θ ),

कहाँ पे एक्स 1 , एक्स 2 , ..., एक्स पी - निश्चित संख्या।

पैरामीटर के एक बिंदु अनुमान के रूप में θ इसका अर्थ निकालो θ * = θ * (एक्स 1 , एक्स 2 , ..., एक्स पी), जिस पर संभावना समारोह अधिकतम तक पहुँच जाता है। मूल्यांकन θ * कॉल करें उच्चतम संभावना अनुमान।

कार्य एल और एल.एन. एल एक ही मूल्य पर अधिकतम पहुंचें θ , इसलिए, फ़ंक्शन का अधिकतम पता लगाने के बजाय एल देखो (जो अधिक सुविधाजनक है) फ़ंक्शन ln की अधिकतम एल.

लॉगरिदमिक संभावना समारोहफ़ंक्शन ln एल... जैसा कि ज्ञात है, फ़ंक्शन ln का अधिकतम बिंदु एल बहस θ आप इस तरह से खोज कर सकते हैं:

3) दूसरा व्युत्पन्न खोजें; अगर दूसरी व्युत्पन्न पर θ = θ * नकारात्मक है, तो θ * - अधिकतम बिंदु।

अधिकतम अंक मिला θ * पैरामीटर की अधिकतम संभावना के अनुमान के रूप में लें θ .

अधिकतम संभावना विधि के कई फायदे हैं: अधिकतम संभावना अनुमान, आम तौर पर बोल, सुसंगत हैं (लेकिन वे पक्षपाती हो सकते हैं), समान रूप से सामान्य रूप से वितरित (बड़े मूल्यों के लिए) n लगभग सामान्य हैं) और अन्य asymptotically सामान्य अनुमानों की तुलना में कम से कम विचरण है; यदि अनुमानित पैरामीटर के लिए θ एक प्रभावी आकलन है θ *, फिर संभावना समीकरण का एक अनूठा समाधान है θ *; यह विधि पैरामीटर के अनुमानित होने के बारे में अधिकांश नमूना डेटा बनाती है, इसलिए यह छोटे नमूनों के मामले में विशेष रूप से उपयोगी है।

इस पद्धति का नुकसान यह है कि इसे अक्सर जटिल गणना की आवश्यकता होती है।

टिप्पणी 1। संभावना समारोह - तर्क का कार्य θ ; अधिकतम संभावना स्कोर - स्वतंत्र तर्कों का एक कार्य एक्स 1 , एक्स 2 , ..., एक्स पी .

टिप्पणी 2। सबसे अच्छा संभावना अनुमान हमेशा पल की विधि द्वारा पाए गए अनुमान से मेल नहीं खाता है।

उदाहरण 1।λ पॉसों वितरण

कहाँ पे म - प्रदर्शन किए गए परीक्षणों की संख्या; एक्स मैं - घटना की घटनाओं की संख्या मैं-म ( मैं=1, 2, ..., n) अनुभव (अनुभव के होते हैं टीपरीक्षण)।

फेसला। चलो संभावना है कि समारोह को ध्यान में रखते हुए रचना करें। θ= λ :

एल = पी (एक्स 1 ; λ :) पी (एक्स 2 ; λ :) . . .पी (एक्स n ; λ :),=

.

आइए एक संभावना समीकरण लिखते हैं, जिसके लिए हम पहले व्युत्पन्न शून्य की बराबरी करते हैं:

हम महत्वपूर्ण बिंदु पाते हैं, जिसके लिए हम परिणामी समीकरण को हल करते हैं λ:

आइए हम λ के संबंध में दूसरा व्युत्पन्न खोजें:

यह देखना आसान है कि λ के लिए \u003d दूसरा व्युत्पन्न नकारात्मक है; इसलिए, λ \u003d एक अधिकतम बिंदु है और इसलिए, पोइसन वितरण के पैरामीटर λ के अधिकतम संभावना के अनुमान के रूप में, हमें नमूना माध्य λ * \u003d लेना चाहिए।

उदाहरण 2। अधिकतम संभावना की विधि द्वारा पैरामीटर का अनुमान लगाएं पी द्विपद वितरण

मैं फ़िन n 1 स्वतंत्र परीक्षण घटना तथादिखाई दिया एक्स 1 = म 1 बार और पी 2 स्वतंत्र परीक्षण घटना तथादिखाई दिया एक्स 2 \u003d टी 2 समय।

फेसला। आइए हम इस बात को ध्यान में रखते हुए कि, संभावना समारोह की रचना करते हैं θ = पी:

आइए, लघुगणकीय संभावना फ़ंक्शन को देखें:

के संबंध में पहला व्युत्पन्न खोजें आर:

.

.

हम महत्वपूर्ण बिंदु पाते हैं, जिसके लिए हम परिणामी समीकरण को हल करते हैं पी:

के संबंध में दूसरा व्युत्पन्न खोजें पी:

.

यह देखना आसान है दूसरा व्युत्पन्न नकारात्मक है; अत, अधिकतम बिंदु है और इसलिए, इसे अज्ञात संभावना की अधिकतम संभावना के अनुमान के रूप में लिया जाना चाहिए पी द्विपद वितरण:

बी सतत यादृच्छिक चर।रहने दो एक्स - सतत यादृच्छिक चर, जिसके परिणामस्वरूप n परीक्षण ने मान लिया एक्स 1 , एक्स 2 , ..., एक्स पी . मान लेते हैं कि वितरण घनत्व का रूप च(एक्स) दिए गए लेकिन ज्ञात पैरामीटर नहीं θ जो इस फ़ंक्शन को परिभाषित करता है।

निरंतर यादृच्छिक लीड की संभावना समारोहरैंकएक्स तर्क फ़ंक्शन को कॉल करें θ :

एल (एक्स 1 , एक्स 2 , ..., एक्स पी ; θ ) = च (एक्स 1 ; θ ) च (एक्स 2 ; θ ) . . . च (एक्स n ; θ ),

कहाँ पे एक्स 1 , एक्स 2 , ..., एक्स पी - निश्चित संख्या।

एक सतत यादृच्छिक चर के वितरण के अज्ञात पैरामीटर की अधिकतम संभावना का अनुमान उसी तरह से मांगा गया है जैसे असतत चर के मामले में।

उदाहरण 3। अधिकतम संभावना की विधि द्वारा खोजें पैरामीटर का अनुमान λ, घातीय वितरण

(0< एक्स< ∞),

अगर परिणामस्वरूप n यादृच्छिक चर का परीक्षण करें एक्स, घातीय कानून के अनुसार वितरित, मान लिया एक्स 1 , एक्स 2 , ..., एक्स पी .

फेसला। आइए हम इस बात को ध्यान में रखते हुए कि, संभावना समारोह की रचना करते हैं θ= λ:

एल= च (एक्स 1 ; λ ) च (एक्स 2 ; λ ) . . . च (एक्स n ; λ ) =.

आइए, लघुगणकीय संभावना फ़ंक्शन को देखें:

आइए हम λ के संबंध में पहला व्युत्पन्न खोजें:

आइए एक संभावना समीकरण लिखते हैं, जिसके लिए हम पहले व्युत्पन्न को शून्य के बराबर करते हैं:

हम उस महत्वपूर्ण बिंदु को पाते हैं, जिसके लिए हम λ के परिणामी समीकरण को हल करते हैं:

Λ के संबंध में दूसरा व्युत्पन्न खोजें :

यह देखना आसान है कि λ \u003d 1 / के लिए दूसरा व्युत्पन्न नकारात्मक है; परिणामस्वरूप, λ \u003d 1 / एक अधिकतम बिंदु है और इसलिए, घातांक वितरण के पैरामीटर λ के अधिकतम संभावना के एक अनुमान के रूप में, हमें नमूना माध्य के विपरीत मान लेना चाहिए: λ * \u003d 1 /।

टिप्पणी। यदि वितरण घनत्व च(एक्स) सतत यादृच्छिक चर एक्स दो अज्ञात मापदंडों द्वारा निर्धारित θ 1 और θ 2, फिर संभावना फ़ंक्शन दो स्वतंत्र तर्कों का एक फ़ंक्शन है θ 1 और θ 2:

एल= च (एक्स 1 ; θ 1 , θ 2) च (एक्स 2 ; θ 1 , θ 2) . . . च (एक्स n ; θ 1 , θ 2),

कहाँ पे एक्स 1 , एक्स 2 , ..., एक्स पी - मनाया मूल्यों एक्स... अगला, लॉगरिदमिक संभावना फ़ंक्शन पाया जाता है और, इसकी अधिकतम खोजने के लिए, सिस्टम संकलित और हल किया जाता है

उदाहरण 4। मापदंडों का सबसे अच्छा संभावना अनुमान लगाएं तथा तथा σ सामान्य वितरण

अगर परिणामस्वरूप n परीक्षण मूल्य एक्स मान लिया एक्स 1 , एक्स 2 , ..., एक्स पी .

फेसला। आइए हम इस बात को ध्यान में रखते हुए कि, संभावना समारोह की रचना करते हैं θ 1 =ए तथा θ 2 \u003d σ

.

आइए, लघुगणकीय संभावना फ़ंक्शन को देखें:

.

के संबंध में आंशिक व्युत्पन्न खोजें तथा और σ के लिए:

आंशिक व्युत्पन्न को शून्य के बराबर करना और इसके लिए दो समीकरणों की परिणामी प्रणाली को हल करना तथा और we 2, हम प्राप्त करते हैं:

इसलिए, अधिकतम संभावना अनुमानों के लिए: तथा* = ;σ*= . ध्यान दें कि पहला अनुमान निष्पक्ष है और दूसरा पक्षपाती है।

अधिकतम संभावना विधि (एमएमपी) सांख्यिकी और अर्थमिति में सबसे अधिक उपयोग की जाने वाली विधियों में से एक है। इसके आवेदन के लिए, जांच किए गए यादृच्छिक चर के वितरण कानून को जानना आवश्यक है।

किसी दिए गए वितरण कानून DE के साथ कुछ यादृच्छिक चर Y होने दें)। इस कानून के पैरामीटर अज्ञात हैं और उन्हें खोजने की आवश्यकता है। सामान्य मामले में, मात्रा Y बहुआयामी के रूप में माना जाता है, अर्थात कई एक आयामी मात्राओं से मिलकर Y1, Y2, Y3 ..., Y

मान लेते हैं कि Y एक आयामी रैंडम वैरिएबल है और इसके अलग-अलग मान नंबर हैं। उनमें से हर एक (ओ ओ2, y3, ..., yn) को एक यादृच्छिक चर Y की प्राप्ति के रूप में माना जाता है, लेकिन η यादृच्छिक चर Y1; У2, У3 ..., У ...। अर्थात:

уj - यादृच्छिक चर का एहसास У];

y2 - यादृच्छिक चर Y2 का कार्यान्वयन;

uz - यादृच्छिक चर Y3 का कार्यान्वयन;

आप у - यादृच्छिक चर का एहसास „।

वेक्टर वाई के वितरण कानून के पैरामीटर, यादृच्छिक चर से मिलकर Yख Y2, Y3, Y Y, एक वेक्टर a के रूप में दर्शाते हैं, जिसमें शामिल हैं सेवा पैरामीटर: θ, θ2, मेंज। मात्राएँ Υ ν Υ 2, वाई 3, ..., Υ both को समान मापदंडों के साथ और अलग-अलग दोनों के साथ वितरित किया जा सकता है; कुछ पैरामीटर समान हो सकते हैं, जबकि अन्य भिन्न हो सकते हैं। इस प्रश्न का विशिष्ट उत्तर उस समस्या पर निर्भर करता है जो शोधकर्ता हल कर रहा है।

उदाहरण के लिए, यदि कार्य एक यादृच्छिक चर Y के वितरण कानून के मापदंडों को निर्धारित करना है, जिसका कार्यान्वयन वाई 1 मान है; Y2, Y3, Y, और फिर यह माना जाता है कि इनमें से प्रत्येक मात्रा को उसी तरह वितरित किया जाता है जैसे कि मात्रा Y। दूसरे शब्दों में, किसी भी मात्रा Y का वर्णन समान वितरण कानून / (Y), और समान मापदंडों के साथ किया जाता है। Θχ: θχ, θ2, ..., घसेवा।

एक अन्य उदाहरण एक प्रतिगमन समीकरण के मापदंडों का पता लगा रहा है। इस स्थिति में, प्रत्येक चर Y को "स्वयं" वितरण मापदंडों वाला एक यादृच्छिक चर माना जाता है, जो आंशिक रूप से अन्य यादृच्छिक चर के वितरण मापदंडों के साथ मेल खाता हो सकता है, या पूरी तरह से भिन्न हो सकता है। प्रतिगमन समीकरण के मापदंडों को खोजने के लिए एमएमपी के आवेदन पर नीचे और अधिक विस्तार से चर्चा की जाएगी।

अधिकतम संभावना विधि के ढांचे में, उपलब्ध मानों का सेट Y], y2, y3, ..., y „को कुछ निश्चित, अपरिवर्तित माना जाता है। अर्थात्, कानून / (Y;) किसी दिए गए मान का एक फ़ंक्शन है, और अज्ञात पैरामीटर /। इसलिए, के लिए पी एक यादृच्छिक चर Y की टिप्पणियों में है पी कानून / (यू;)।

इन वितरण कानूनों के अज्ञात मापदंडों को यादृच्छिक चर के रूप में माना जाता है। वे यी, y2, y3, ..., y „के मानों के एक सेट को देखते हुए बदल सकते हैं, मापदंडों के विशिष्ट मूल्य सबसे अधिक संभावना हैं। दूसरे शब्दों में, प्रश्न इस तरह से प्रस्तुत किया जाता है: पैरामीटर क्या होना चाहिए the ताकि मान yj, y2, y3, ..., y „सबसे संभावित हो?

इसका उत्तर देने के लिए, आपको यादृच्छिक चर Y1 के संयुक्त वितरण के कानून को खोजने की आवश्यकता है; यू 2, यू 3, ..., अप -कुई, यू2, उज़, यू „)। यदि हम मानते हैं कि मनाया मात्रा y ^ y2, y3, ..., yn स्वतंत्र हैं, तो यह उत्पाद के बराबर है पी कानून /

(वाई;) असतत यादृच्छिक चर के लिए इन मूल्यों की घटना की संभावनाओं का उत्पाद या निरंतर यादृच्छिक चर के लिए वितरण घनत्व का उत्पाद):

इस तथ्य पर जोर देने के लिए कि मांगे गए पैरामीटर Θ को चर के रूप में माना जाता है, हम वितरण कानून की अधिसूचना में एक और तर्क देते हैं - मापदंडों का वेक्टर:

प्रस्तुत पदनामों को ध्यान में रखते हुए, संयुक्त वितरण कानून स्वतंत्र मापदंडों के साथ मात्रा के रूप में लिखा जाएगा

(2.51)

परिणामी फ़ंक्शन (2.51) कहा जाता है अधिकतम संभावना समारोह और निरूपित करें:

हम एक बार फिर इस तथ्य पर जोर देते हैं कि अधिकतम संभावना समारोह में, वाई के मूल्यों को तय माना जाता है, और चर वेक्टर के पैरामीटर (विशेष मामले में, एक पैरामीटर) हैं। अक्सर, अज्ञात मापदंडों को खोजने की प्रक्रिया को आसान बनाने के लिए, संभावना समारोह को लघुगणक, प्राप्त करना होता है लॉग संभावना समारोह

आईएमएफ द्वारा आगे के समाधान में by \u200b\u200bके ऐसे मूल्यों को खोजना शामिल है जिस पर संभावना फ़ंक्शन (या इसके लघुगणक) इसके अधिकतम तक पहुंचता है। मिले मूल्य Θ; बुलाया अधिकतम संभावना का अनुमान।

अधिकतम संभावना अनुमान लगाने की विधियां काफी विविध हैं। सबसे सरल मामले में, संभावना समारोह लगातार भिन्न होता है और इसके लिए अधिकतम बिंदु होता है

अधिक जटिल मामलों में, अधिकतम संभावना फ़ंक्शन के विभेदक समीकरण को अलग और हल करके नहीं पाया जा सकता है, जो इसे खोजने के लिए अन्य एल्गोरिदम की खोज करने की आवश्यकता है, जिसमें पुनरावृत्त शामिल हैं।

आईएमएफ का उपयोग कर प्राप्त पैरामीटर अनुमान हैं:

• – धनी, उन। टिप्पणियों की मात्रा में वृद्धि के साथ, अनुमान और पैरामीटर के वास्तविक मूल्य के बीच का अंतर शून्य तक पहुंचता है;
• – अचल: यदि पैरामीटर का एक अनुमान obtained प्राप्त होता है, 0L के बराबर होता है, और एक निरंतर फ़ंक्शन q (0) होता है, तो इस फ़ंक्शन के मूल्य का अनुमान q (0L) है। विशेष रूप से, अगर एमएमपी का उपयोग करते हुए हमने कुछ संकेतक के विचरण का अनुमान लगाया (ए एफ), फिर परिणामी अनुमान की जड़ आईएमएफ से प्राप्त मानक विचलन ()) का अनुमान होगा।
• – asymptotically प्रभावी ;
• – asymptotically सामान्य रूप से वितरित।

पिछले दो बयानों का मतलब है कि आईएमएफ से प्राप्त मापदंडों का अनुमान नमूना आकार में असीम रूप से बड़ी वृद्धि के साथ दक्षता और सामान्यता के गुणों को प्रदर्शित करता है।

फार्म के कई रैखिक प्रतिगमन के मापदंडों को खोजने के लिए

आपको आश्रित चर 7 के वितरण के नियमों को जानना होगा; या यादृच्छिक अवशेष ε,। चरने दो Yt को पैरामीटर ,,, ,,, के साथ सामान्य कानून के अनुसार वितरित किया जाता है। प्रतिगमन की परिभाषा के अनुसार, y का प्रत्येक मनाया मूल्य है, अपेक्षित मूल्य μ, \u003d MU „अपने सैद्धांतिक मूल्य के बराबर, बशर्ते कि सामान्य आबादी में प्रतिगमन मापदंडों के मूल्यों को जाना जाता है

जहाँ xfl, ..., एक्सआईपी \u200b\u200b- में स्वतंत्र चर के मान і वें अवलोकन। जब ओएलएस लागू करने के लिए आवश्यक शर्तें (शास्त्रीय सामान्य रैखिक मॉडल बनाने के लिए आवश्यक शर्तें) को पूरा किया जाता है, तो यादृच्छिक चर Y में एक ही विचरण होता है

मात्रा का विचरण सूत्र द्वारा निर्धारित होता है

आइए इस सूत्र को रूपांतरित करें:

जब गॉस - मार्कोव की स्थिति संतुष्ट होती है कि यादृच्छिक अवशेषों की गणितीय अपेक्षा शून्य के बराबर होती है और उनके संस्करण स्थिर होते हैं, तो कोई सूत्र (2.52) से सूत्र में जा सकता है

दूसरे शब्दों में, यादृच्छिक चर वाई के संस्करण, - और इसी यादृच्छिक अवशेषों का मेल होता है।

एक यादृच्छिक चर की गणितीय अपेक्षा का चयनात्मक अनुमान YJ निरूपित करेगा

और इसके विचरण का अनुमान (विभिन्न टिप्पणियों के लिए स्थिर) के रूप में एसवाई।

व्यक्तिगत टिप्पणियों की स्वतंत्रता को मानते हुए yतब हमें अधिकतम संभावना समारोह मिलते हैं

(2.53)

दिए गए फ़ंक्शन में, भाजक स्थिर है और इसका अधिकतम पता लगाने पर कोई प्रभाव नहीं है। इसलिए, गणना को सरल बनाने के लिए, इसे छोड़ा जा सकता है। इस टिप्पणी को ध्यान में रखते हुए, और लॉगरिदम लेने के बाद, फ़ंक्शन (2.53) फॉर्म लेता है

आईएमएफ के अनुसार, हम अज्ञात मापदंडों के संबंध में लॉगरिदमिक संभावना समारोह के डेरिवेटिव का पता लगाते हैं

चरम को खोजने के लिए, हमें प्राप्त भावों को शून्य के बराबर करना चाहिए। परिवर्तनों के बाद, हमें सिस्टम मिलता है

(2.54)

यह प्रणाली कम से कम वर्गों की विधि द्वारा प्राप्त प्रणाली से मेल खाती है। यही है, अगर OLS पूर्वापेक्षाएँ पूरी होती हैं, तो MMP और OLS समान परिणाम देते हैं। सिस्टम में अंतिम अभिव्यक्ति (2.54) यादृच्छिक चर 7 के विचरण का अनुमान देती है, या, जो एक ही बात है, यादृच्छिक अवशिष्टों का विचरण। जैसा कि ऊपर उल्लेख किया गया है (सूत्र देखें (2.23)), यादृच्छिक अवशेषों के विचरण का निष्पक्ष अनुमान है

एमएलएम का उपयोग करके प्राप्त एक समान अनुमान (सिस्टम (2.54) से निम्नानुसार) सूत्र द्वारा गणना की जाती है

उन। है एक विस्थापित.

हमने एमएलएम के उपयोग के मामले को रैखिक कई प्रतिगमन के मापदंडों को खोजने के लिए माना, बशर्ते कि वाई का मूल्य सामान्य रूप से वितरित किया गया हो। एक ही प्रतिगमन के मापदंडों को खोजने के लिए एक और दृष्टिकोण यादृच्छिक अवशिष्टों random, के लिए अधिकतम संभावना समारोह का निर्माण करना है। यह उनके लिए भी माना जाता है सामान्य वितरण मापदंडों के साथ (0, σε)। यह सुनिश्चित करना आसान है कि इस मामले में समाधान के परिणाम ऊपर प्राप्त परिणामों के साथ मेल खाते हैं।

अब तक, हम मानते थे कि अज्ञात पैरामीटर का अनुमान ज्ञात है और हम विश्वास अंतराल का निर्माण करते समय उनका उपयोग करने के लिए इसके गुणों का अध्ययन कर रहे थे। इस खंड में, हम इस सवाल पर विचार करेंगे कि अनुमान कैसे लगाया जाए।

संभावना तरीके

अज्ञात पैरामीटर का अनुमान लगाने के लिए इसे आवश्यक होने दें, आम तौर पर बोल, वेक्टर। इस मामले में, यह माना जाता है कि वितरण फ़ंक्शन का रूप पैरामीटर के लिए जाना जाता है,

इस स्थिति में, यादृच्छिक चर के सभी क्षण निम्न कार्य बन जाते हैं:

क्षणों की विधि के लिए निम्न चरणों की आवश्यकता होती है:

हम के "सैद्धांतिक" क्षणों की गणना करते हैं

नमूने के आधार पर, हम उसी नाम के k नमूना क्षणों का निर्माण करते हैं। प्रस्तुत संदर्भ में, ये क्षण होंगे

एक ही नाम के "सैद्धांतिक" और नमूने के क्षणों की बराबरी करते हुए, हम अनुमानित पैरामीटर के घटकों के लिए समीकरणों की एक प्रणाली पर पहुंचते हैं।

परिणामी प्रणाली (बिल्कुल या लगभग) को हल करके, हम प्रारंभिक अनुमान लगाते हैं। वे निश्चित रूप से, नमूना मूल्यों के कार्य हैं।

हमने प्रारंभिक - सैद्धांतिक और चयनात्मक - बिंदुओं के आधार पर कार्यों के क्रम को रेखांकित किया है। यह प्रारंभिक, केंद्रीय या निरपेक्ष क्षणों की एक अलग पसंद के तहत संरक्षित है, जो समाधान प्रणाली (25.1) या कुछ इसी तरह की सुविधा से निर्धारित होता है।

चलिए उदाहरणों की जांच करते हैं।

उदाहरण 25.1। चलो यादृच्छिक चर खंड पर समान रूप से वितरित किया जाता है [; ], जहां अज्ञात पैरामीटर हैं। एक यादृच्छिक चर के वितरण से मात्रा एन के नमूने () द्वारा। इसका मूल्यांकन और करना आवश्यक है।

इस मामले में, वितरण घनत्व द्वारा निर्धारित किया जाता है

1) आइए पहले दो प्रारंभिक "सैद्धांतिक" क्षणों की गणना करें:

2) नमूने से पहले दो नमूना क्षणों की गणना करते हैं

3) आइए समीकरणों की प्रणाली की रचना करें

4) पहले समीकरण से, हम व्यक्त करते हैं

और इसे दूसरे समीकरण में स्थानापन्न करते हैं, जिसके परिणामस्वरूप हम द्विघात समीकरण में पहुंचते हैं

जिसे हल करते हुए, हम दो जड़ों को खोजते हैं

संबंधित मूल्य हैं

चूंकि, कार्य के अर्थ के भीतर, शर्त को पूरा करना होगा< , выбираем в качестве решения системы и оценок неизвестных параметров

यह देखते हुए कि नमूना विचरण से अधिक कुछ नहीं है, हम अंततः प्राप्त करते हैं

यदि हमने गणितीय अपेक्षा और बदलाव को "सैद्धांतिक" क्षणों के रूप में चुना है, तो हम सिस्टम में आएंगे (असमानता को ध्यान में रखते हुए)<)

जो पहले की तुलना में रैखिक और हल करने में आसान है। जवाब, निश्चित रूप से, पहले से ही प्राप्त एक के साथ मेल खाता है।

अंत में, हम ध्यान दें कि हमारे सिस्टम में हमेशा एक समाधान होता है और इसके अलावा, केवल एक ही होता है। प्राप्त अनुमान, निश्चित रूप से, सुसंगत हैं, लेकिन उनके पास निष्पक्षता के गुण नहीं हैं।

अधिकतम संभावना विधि

हम अध्ययन करते हैं, पहले की तरह, एक यादृच्छिक चर, जिसका वितरण या तो इसके मूल्यों की संभावनाओं द्वारा निर्दिष्ट किया गया है, यदि असतत है, या वितरण घनत्व, यदि निरंतर है, जहां एक अज्ञात वेक्टर पैरामीटर है। आइए () मूल्यों का एक नमूना बनें। एक अनुमान के रूप में उस पैरामीटर के मूल्य को लेना स्वाभाविक है, जिस पर पहले से ही उपलब्ध नमूना प्राप्त करने की संभावना अधिकतम है।

अभिव्यक्ति

बुलाया संभावना समारोह, यह एक स्वतंत्र वेक्टर के साथ यादृच्छिक वेक्टर का संयुक्त वितरण या संयुक्त घनत्व है, जिनमें से प्रत्येक का समान वितरण (घनत्व) है।

अज्ञात पैरामीटर के अनुमान के रूप में, इसका मान लिया जाता है जो निर्धारित मानों के एक फ़ंक्शन के रूप में माना जाने वाला अधिकतम फ़ंक्शन देता है। अनुमान कहा जाता है अधिकतम संभावना का अनुमान... ध्यान दें कि नमूना आकार n और नमूना मूल्यों पर निर्भर करता है

और, इसलिए, स्वयं है अनियमित चर.

किसी फ़ंक्शन का अधिकतम बिंदु खोजना एक अलग कार्य है, जो आसान है यदि फ़ंक्शन पैरामीटर के संबंध में भिन्न है।

इस मामले में, फ़ंक्शन के बजाय इसके लघुगणक पर विचार करना सुविधाजनक है, क्योंकि फ़ंक्शन के चरम बिंदु और इसके लघुगणक मेल खाते हैं।

डिफरेंशियल कैलकुलस मेथड्स आपको उन बिंदुओं को ढूंढने की अनुमति देते हैं जो एक चरम सीमा के बारे में संदेह करते हैं, और फिर पता लगाते हैं कि उनमें से अधिकतम किस तक पहुंचा है।

इस उद्देश्य के लिए, हम पहले समीकरणों की प्रणाली पर विचार करते हैं

जिनके समाधान एक चरम बिंदु के संदिग्ध हैं। फिर, एक प्रसिद्ध तकनीक के अनुसार, दूसरे डेरिवेटिव के मूल्यों की गणना

इन मूल्यों से बना निर्धारक के संकेत से, हम अधिकतम बिंदु पाते हैं।

अधिकतम संभावना अनुमान संगत हैं, हालांकि वे पक्षपाती हो सकते हैं।

आइए कुछ उदाहरणों पर विचार करें।

उदाहरण 25.2। कुछ यादृच्छिक प्रयोग किए जाएं, जिसके परिणाम कुछ घटना A हो सकते हैं, संभाव्यता P (A) जो अज्ञात है और अनुमान के अधीन है।

हम समानता से एक यादृच्छिक चर का परिचय देते हैं

अगर घटना A हुई,

यदि ईवेंट ईएएस नहीं हुआ (ईवेंट हुआ)।

एक यादृच्छिक चर का वितरण समानता द्वारा दिया जाता है

इस मामले में चयन अंतिम अनुक्रम () होगा, जहां प्रत्येक मान 0 या 1 हो सकता है।

संभावना समारोह होगा

P के संबंध में इसके अधिकतम बिंदु का पता लगाएं, जिसके लिए हम लघुगणक के व्युत्पन्न की गणना करते हैं

चलो नामित करते हैं - यह संख्या चयनित अनुक्रम में "सफलताओं" की इकाइयों की संख्या के बराबर है।

आइए हम परिणामी व्युत्पन्न को शून्य के बराबर करें

और परिणामी समीकरण को हल करें

चूँकि व्युत्पन्न परिवर्तन "+" से "-" के रूप में p 0 से 1 तक बढ़ जाते हैं, बिंदु फ़ंक्शन L का अधिकतम बिंदु है, और पैरामीटर p की अधिकतम संभावना का अनुमान है। ध्यान दें कि अनुपात पहले n परीक्षणों में घटना ए की घटना की आवृत्ति है।

चूँकि n स्वतंत्र परीक्षणों (बर्नौली योजना में) के अनुक्रम में "सफलताओं" की संख्या है, और एक निष्पक्ष अनुमान है। बड़ी संख्या के कानून के आधार पर, बर्नौली संभावना में पी में जाता है, और अनुमान सुसंगत है।

उदाहरण 25.3। आइए हम अज्ञात गणितीय अपेक्षा और मापदंडों के साथ सामान्य रूप से वितरित यादृच्छिक चर के विचरण का अनुमान लगाते हैं।

फेसला।

उदाहरण की शर्तों के तहत, यादृच्छिक चर वितरण घनत्व द्वारा निर्धारित किया जाता है

आइए संभावना फ़ंक्शन के लघुगणक को लिखें

आइए हम चरम बिंदुओं को खोजने के लिए समीकरणों की एक प्रणाली की रचना करते हैं

पहले समीकरण से हम पाते हैं, दूसरे से, पाया मूल्य प्रतिस्थापित करते हुए, हम पाते हैं।

आइए हम बिंदु lnL के दूसरे डेरिवेटिव की गणना बिंदु पर करें ():

ए \u003d, बी \u003d, सी \u003d।

निर्धारक के बाद से

ए< 0, то найденная точка в самом деле точка максимума функции правдоподобия.

ध्यान दें कि नमूना नमूना माध्य (गणितीय अपेक्षा का निष्पक्ष और सुसंगत अनुमान) है, और नमूना विचरण (विचरण का पूर्वाग्रहित अनुमान) है।

इस पद्धति में इस तथ्य को समाहित किया गया है कि पैरामीटर मान जिस पर अधिकतम होने की संभावना है, वह पैरामीटर के बिंदु अनुमान के रूप में लिया जाता है।

संभावना घनत्व एफ (टी) के साथ विफलता के लिए एक यादृच्छिक ऑपरेटिंग समय के लिए, संभावना फ़ंक्शन 12.11 सूत्र द्वारा निर्धारित किया जाता है: , अर्थात। एक यादृच्छिक चर independent की संभाव्यता घनत्व के साथ स्वतंत्र माप की संयुक्त संभावना घनत्व है च (टी,)।

यदि यादृच्छिक चर असतत है और मान लेता है जेड 1, जेड 2..., क्रमशः P 1 (α), P 2 (α) ... के साथ, क्रमशः, तब संभावना फ़ंक्शन को एक अलग रूप में लिया जाता है, अर्थात्: जहां संभावनाओं पर सूचक इंगित करते हैं कि मान देखे गए हैं।

एक पैरामीटर की अधिकतम संभावना का अनुमान संभावना समीकरण (12.12) से निर्धारित किया जाता है।

अधिकतम संभावना विधि का मान निम्नलिखित दो मान्यताओं से पता चलता है:

यदि पैरामीटर के लिए एक प्रभावी अनुमान है, तो संभावना समीकरण (12.12) में एक अनूठा समाधान है।

कार्यों पर लगाए गए एक विश्लेषणात्मक प्रकृति की कुछ सामान्य शर्तों के तहत च (टी,) संभावना समीकरण का समाधान पैरामीटर के सही मूल्य पर परिवर्तित होता है।

एक सामान्य वितरण के मापदंडों के लिए अधिकतम संभावना विधि का उपयोग करने के एक उदाहरण पर विचार करें।

उदाहरण:

हमारे पास है: , , t i (i \u003d 1..N) वितरण के घनत्व के साथ जनसंख्या से एक नमूना।

अधिकतम समानता का अनुमान लगाना आवश्यक है।

संभावना समारोह: ;

.

संभावना समीकरण: ;

;

इन समीकरणों के समाधान के रूप हैं: - सांख्यिकीय औसत; - सांख्यिकीय विचरण। अनुमान पक्षपाती है। एक गैर-पक्षपाती अनुमान है: .

अधिकतम संभावना विधि का मुख्य नुकसान कम्प्यूटेशनल कठिनाइयों है जो संभावना समीकरणों को हल करते समय उत्पन्न होती हैं, जो, एक नियम के रूप में, पारलौकिक हैं।

क्षणों की विधि।

यह विधि के। पियर्सन द्वारा प्रस्तावित की गई थी और यह अज्ञात मापदंडों के बिंदु आकलन के लिए पहली सामान्य विधि है। यह अभी भी व्यावहारिक आंकड़ों में व्यापक रूप से उपयोग किया जाता है, क्योंकि यह अक्सर एक अपेक्षाकृत सीधी कम्प्यूटेशनल प्रक्रिया की ओर जाता है। इस पद्धति के पीछे का विचार यह है कि अज्ञात मापदंडों के आधार पर वितरण क्षणों को अनुभवजन्य क्षणों के बराबर किया जाता है। अज्ञात मापदंडों की संख्या के बराबर क्षणों की संख्या लेना और संबंधित समीकरणों की रचना करना, हम समीकरणों की आवश्यक संख्या प्राप्त करते हैं। पहले दो सांख्यिकीय क्षणों की सबसे अधिक बार गणना की जाती है: नमूना मतलब; और नमूना विचरण ... क्षणों की पद्धति का उपयोग करके प्राप्त अनुमान उनकी प्रभावशीलता के संदर्भ में सर्वश्रेष्ठ नहीं हैं। हालांकि, वे अक्सर पहले सन्निकटन के रूप में उपयोग किए जाते हैं।

आइए क्षणों की विधि का उपयोग करने के एक उदाहरण पर विचार करें।

उदाहरण: एक घातांक वितरण पर विचार करें:

t\u003e 0; λ<0; t i (i=1..N) - वितरण के घनत्व के साथ जनसंख्या से नमूना। पैरामीटर λ के लिए एक अनुमान खोजना आवश्यक है।

आइए समीकरण बनाते हैं: ... इस प्रकार, अन्यथा।

मात्रात्मक विधि।

यह वही अनुभवजन्य विधि है जो क्षणों की विधि है। यह इस तथ्य में समाहित है कि सैद्धांतिक वितरण का मात्रात्मक अनुभवजन्य मात्रात्मक के बराबर है। यदि कई मापदंडों का मूल्यांकन किया जाना है, तो संबंधित समानताएं कई मात्राओं के लिए लिखी जाती हैं।

मामले पर विचार करें जब वितरण कानून एफ (टी, α, α)दो अज्ञात मापदंडों के साथ α, β ... कार्य करने दें एफ (टी, α, α) में एक निरंतर विभेदीकरण घनत्व है जो मापदंडों के किसी भी संभावित मूल्यों के लिए सकारात्मक मान लेता है α, β. यदि योजना के अनुसार परीक्षण किए जाते हैं , आर \u003e\u003e 1, तब वें विफलता की उपस्थिति के क्षण को स्तर के अनुभवजन्य मात्रा के रूप में माना जा सकता है, i \u003d 1.2… , - अनुभवजन्य वितरण समारोह। अगर टी एल तथा टी आर - एल-वें और आर-वें विफलताओं की घटना के क्षणों को बिल्कुल मापदंडों के मूल्यों के रूप में जाना जाता है α तथा β समीकरणों से पाया जा सकता है

मापदंडों के बिंदु आकलन की समस्या का सार

वितरण PARAMETERS की सूत्र स्थापना

बिंदु लागत एकल संख्यात्मक मान ज्ञात करता है, जिसे पैरामीटर मान के रूप में लिया जाता है। ऐसे मामलों में इस तरह के अनुमान को निर्धारित करना उचित है जहां ईडी की मात्रा काफी बड़ी है। इसके अलावा, डीई की पर्याप्त मात्रा की कोई एक अवधारणा नहीं है, इसका मान पैरामीटर के प्रकार पर निर्भर करता है जिसका अनुमान लगाया जा रहा है (मापदंडों के अंतराल के आकलन के लिए तरीकों का अध्ययन करते समय हमें इस मुद्दे पर लौटना होगा, और हम प्राथमिक रूप से पर्याप्त होने के लिए कम से कम 10 मान वाले नमूने पर विचार करेंगे)। एक छोटी ईडी मात्रा के साथ, बिंदु अनुमान मापदंडों के वास्तविक मूल्यों से काफी भिन्न हो सकते हैं, जो उन्हें अनुपयोगी बनाता है।

मापदंडों के बिंदु आकलन की समस्या में विशिष्ट संस्करण मंचन इस प्रकार है।

उपलब्ध: टिप्पणियों का नमूना ( x 1, x 2, ..., x n) एक यादृच्छिक चर के पीछे एक्स... नमूने का आकार nतय की।

मात्रा के वितरण कानून का रूप एक्स, उदाहरण के लिए, वितरण घनत्व के रूप में च (Θ , एक्स), कहाँ पे Θ - अज्ञात (सामान्य स्थिति में, वेक्टर) वितरण पैरामीटर। पैरामीटर एक यादृच्छिक मान नहीं है।

इसका अनुमान लगाना आवश्यक है Θ* पैरामीटर Θ वितरण कानून।

सीमाएं: नमूना प्रतिनिधि है।

मापदंडों के बिंदु आकलन की समस्या को हल करने के लिए कई तरीके हैं, जिनमें से सबसे आम हैं अधिकतम (अधिकतम) संभावना, क्षण और क्वांटाइल्स की विधियां।

विधि आर। फिशर द्वारा 1912 में प्रस्तावित किया गया था। यह विधि अवलोकनों का एक नमूना प्राप्त करने की संभावना के अध्ययन पर आधारित है। (x 1, x 2, ..., x n)... यह संभावना है

f (x 1, Θ) f (x 2, f)… f (x n, Θ) dx 1 dx 2… dx n।

संयुक्त संभावना घनत्व

L (x 1, x 2 ..., x n; \u003d) \u003d f (x 1, 1) f (x 2, x) ... f (x n, Θ),(2.7)

पैरामीटर के एक समारोह के रूप में माना जाता है Θ कहा जाता है संभावना समारोह .

एक अनुमान के रूप में Θ* पैरामीटर Θ किसी को उस मूल्य को लेना चाहिए जो संभावना फ़ंक्शन को अधिकतम करता है। अनुमान खोजने के लिए, संभावना समारोह में प्रतिस्थापित करना आवश्यक है टी पर क्ष और समीकरण हल करें

डीएल / डीΘ* = 0.

गणनाओं को सरल बनाने के लिए, एक संभावना फ़ंक्शन से उसके लघुगणक ln तक गुजरता है एल... यह परिवर्तन स्वीकार्य है क्योंकि संभावना समारोह एक सकारात्मक कार्य है और यह अपने लघुगणक के समान बिंदु पर बोलता है। यदि वितरण पैरामीटर एक वेक्टर मात्रा है

Θ* \u003d (q 1, q 2, ..., q n),

तब समीकरणों की प्रणाली से अधिकतम संभावना अनुमान पाए जाते हैं

d ln L (q 1, q 2, ..., q n) / d q 1 \u003d 0;

d ln L (q 1, q 2, ..., q n) / d q 2 \u003d 0;

. . . . . . . . .

d ln L (q 1, q 2, ..., q n) / d q n \u003d 0।

यह जांचने के लिए कि इष्टतम बिंदु संभावना फ़ंक्शन की अधिकतम से मेल खाती है, इस फ़ंक्शन के दूसरे व्युत्पन्न को खोजना आवश्यक है। और अगर इष्टतम बिंदु पर दूसरा व्युत्पन्न ऋणात्मक है, तो पाया पैरामीटर मान फ़ंक्शन को अधिकतम करते हैं।

इसलिए, अधिकतम संभावना अनुमानों को खोजने में निम्नलिखित चरण शामिल हैं: संभावना फ़ंक्शन का निर्माण (इसकी प्राकृतिक लघुगणक); आवश्यक मापदंडों द्वारा फ़ंक्शन का भेदभाव और समीकरणों की एक प्रणाली तैयार करना; अनुमान लगाने के लिए समीकरणों की एक प्रणाली को हल करना; फ़ंक्शन के दूसरे व्युत्पन्न का निर्धारण, पहले व्युत्पन्न के इष्टतम बिंदु पर इसके संकेत की जांच करना और निष्कर्ष बनाना।

फेसला। नमूना मात्रा ईडी के लिए संभावना समारोह n

संभावना समारोह का लघुगणक

पैरामीटर अनुमान लगाने के लिए समीकरणों की प्रणाली

पहले समीकरण से इस प्रकार है:

या अंत में

इस प्रकार, अंकगणित माध्य अपेक्षा के लिए अधिकतम संभावना अनुमान है।

दूसरे समीकरण से आप पा सकते हैं

अनुभवजन्य विचरण पक्षपाती है। पूर्वाग्रह को दूर करने के बाद

पैरामीटर अनुमानों के वास्तविक मूल्य: म =27,51, s 2 = 0,91.

यह जांचने के लिए कि प्राप्त अनुमान संभावना फ़ंक्शन के मूल्य को अधिकतम करता है, हम दूसरा डेरिवेटिव लेते हैं

फ़ंक्शन ln का दूसरा डेरिवेटिव ( एल (एम, एस)) शून्य से कम पैरामीटर मानों की परवाह किए बिना, इसलिए, पाया गया पैरामीटर मान अधिकतम संभावना अनुमान हैं।

अधिकतम संभावना विधि किसी को सुसंगत, कुशल (यदि ऐसा मौजूद है, तो परिणामस्वरूप समाधान प्रभावी अनुमान देगा), पर्याप्त, asymptotically सामान्य रूप से वितरित अनुमानों को प्राप्त करने की अनुमति देता है। यह विधि पक्षपाती और निष्पक्ष अनुमान दोनों प्रदान कर सकती है। संशोधनों को पेश करके पूर्वाग्रह को खत्म किया जा सकता है। विधि विशेष रूप से छोटे नमूनों के लिए उपयोगी है।