http://tetelwiki.mafihe.hu/index.php?action=history&feed=atom&title=Adatelemz%C3%A9s%3A_bootstrap_modellek_%2712 2026-09-18T12:28:07Z Az oldal laptörténete a wikiben MediaWiki 1.30.0 http://tetelwiki.mafihe.hu/index.php?title=Adatelemz%C3%A9s:_bootstrap_modellek_%2712&diff=2051&oldid=prev 2012-06-13T11:16:39Z

<p>‎<span dir="auto"><span class="autocomment">Cross-validation</span></span></p> <table class="diff diff-contentalign-left" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr style="vertical-align: top;" lang="hu"> <td colspan="2" style="background-color: white; color:black; text-align: center;">← Régebbi változat</td> <td colspan="2" style="background-color: white; color:black; text-align: center;">A lap 2012. június 13., 11:16-kori változata</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l53" >53. sor:</td> <td colspan="2" class="diff-lineno">53. sor:</td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>----</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>----</div></td></tr> <tr><td class='diff-marker'>−</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div><del class="diffchange diffchange-inline">Egyéb újra </del>mintavételező technikák: [http://en.wikipedia.org/wiki/Resampling_%28statistics%29 Resampling (statistics)] (found by Adrian)</div></td><td class='diff-marker'>+</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins class="diffchange diffchange-inline">Újra </ins>mintavételező technikák <ins class="diffchange diffchange-inline">wikin</ins>: [http://en.wikipedia.org/wiki/Resampling_%28statistics%29 Resampling (statistics)] (found by Adrian)</div></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>{{MSc 2012 záróvizsga}}</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>{{MSc 2012 záróvizsga}}</div></td></tr> <!-- diff cache key tetelwiki-wiki_:diff:version:1.11a:oldid:2050:newid:2051 --> </table>

CzGabe http://tetelwiki.mafihe.hu/index.php?title=Adatelemz%C3%A9s:_bootstrap_modellek_%2712&diff=2050&oldid=prev 2012-06-13T11:15:32Z

<p></p> <table class="diff diff-contentalign-left" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr style="vertical-align: top;" lang="hu"> <td colspan="2" style="background-color: white; color:black; text-align: center;">← Régebbi változat</td> <td colspan="2" style="background-color: white; color:black; text-align: center;">A lap 2012. június 13., 11:15-kori változata</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l6" >6. sor:</td> <td colspan="2" class="diff-lineno">6. sor:</td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>Egy ''X'' valószínűségi változó eloszlását különféle paraméterekkel jellemezhetjük: várható érték, szórás, ferdeség, stb. Ezeket a paramétereket egy ''n'' elemű minta alapján statisztikai függvények segítségével becsüljük. Pl.: a várható értéket a mintaátlaggal becsüljük, az empirikus és a korrigált empirikus szórás a szórás becslései. A becslésektől elvárjuk, hogy (legalább aszimptotikusan) torzítatlanok legyenek, valamint a becslés standard hibája a mintaszám növelésével nullához tartson. Ha kicsi a mintaszámunk, akkor nemcsak, hogy pontatlan lesz a becslésünk, de a pontosság jellemzőit sem tudjuk megbecsülni (pl.: konfidencia-intervallum) a klasszikus statisztika eszközeivel.</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>Egy ''X'' valószínűségi változó eloszlását különféle paraméterekkel jellemezhetjük: várható érték, szórás, ferdeség, stb. Ezeket a paramétereket egy ''n'' elemű minta alapján statisztikai függvények segítségével becsüljük. Pl.: a várható értéket a mintaátlaggal becsüljük, az empirikus és a korrigált empirikus szórás a szórás becslései. A becslésektől elvárjuk, hogy (legalább aszimptotikusan) torzítatlanok legyenek, valamint a becslés standard hibája a mintaszám növelésével nullához tartson. Ha kicsi a mintaszámunk, akkor nemcsak, hogy pontatlan lesz a becslésünk, de a pontosság jellemzőit sem tudjuk megbecsülni (pl.: konfidencia-intervallum) a klasszikus statisztika eszközeivel.</div></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>−</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>Mikor nevezhető kicsinek a mintaszám? Akkor, ha a becslés pontossági jellemzőinek (torzítás, standard hiba, konfidencia-intervallum) az ''n'' elemű mintából történő becslésekor indokolatlan a határeloszlásra való áttérés (a &quot;klasszikus&quot; képletek nem alkalmazhatók). A probléma megoldására találták ki az újra mintavételező <del class="diffchange diffchange-inline">módzsereket</del></div></td><td class='diff-marker'>+</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>Mikor nevezhető kicsinek a mintaszám? Akkor, ha a becslés pontossági jellemzőinek (torzítás, standard hiba, konfidencia-intervallum) az ''n'' elemű mintából történő becslésekor indokolatlan a határeloszlásra való áttérés (a &quot;klasszikus&quot; képletek nem alkalmazhatók). A probléma megoldására találták ki az újra mintavételező <ins class="diffchange diffchange-inline">módszereket</ins></div></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>==Bootstrap módszer==</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>==Bootstrap módszer==</div></td></tr> <tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l51" >51. sor:</td> <td colspan="2" class="diff-lineno">51. sor:</td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>Két modell összehasonlításához az így kapott négyzetes hibákat kell összehasonlítani, amelyikre kisebb, az jobban leírja az adatokat.</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>Két modell összehasonlításához az így kapott négyzetes hibákat kell összehasonlítani, amelyikre kisebb, az jobban leírja az adatokat.</div></td></tr> <tr><td colspan="2">&#160;</td><td class='diff-marker'>+</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"></ins></div></td></tr> <tr><td colspan="2">&#160;</td><td class='diff-marker'>+</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">----</ins></div></td></tr> <tr><td colspan="2">&#160;</td><td class='diff-marker'>+</td><td style="color:black; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">Egyéb újra mintavételező technikák: [http://en.wikipedia.org/wiki/Resampling_%28statistics%29 Resampling (statistics)] (found by Adrian)</ins></div></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"></td></tr> <tr><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>{{MSc 2012 záróvizsga}}</div></td><td class='diff-marker'>&#160;</td><td style="background-color: #f9f9f9; color: #333333; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #e6e6e6; vertical-align: top; white-space: pre-wrap;"><div>{{MSc 2012 záróvizsga}}</div></td></tr> <!-- diff cache key tetelwiki-wiki_:diff:version:1.11a:oldid:1951:newid:2050 --> </table>

CzGabe http://tetelwiki.mafihe.hu/index.php?title=Adatelemz%C3%A9s:_bootstrap_modellek_%2712&diff=1951&oldid=prev 2012-06-05T21:38:49Z

<p>Új oldal, tartalma: „&lt;!-- Ennek részletesen utána kell nézni a vmelyik adatos kövnyebn h mik tartoznak itt még egy témakörbe... ilyen adatújraosztásos, hibabecslős módszerek... úgy…”</p> <p><b>Új lap</b></p><div>&lt;!--<br /> Ennek részletesen utána kell nézni a vmelyik adatos kövnyebn h mik tartoznak itt még egy témakörbe... ilyen adatújraosztásos, hibabecslős módszerek... úgy rémlik h több is van nem csak a bootstrap...<br /> <br /> ezt találtam: [http://en.wikipedia.org/wiki/Resampling_%28statistics%29] - Adrian<br /> --&gt;<br /> Egy ''X'' valószínűségi változó eloszlását különféle paraméterekkel jellemezhetjük: várható érték, szórás, ferdeség, stb. Ezeket a paramétereket egy ''n'' elemű minta alapján statisztikai függvények segítségével becsüljük. Pl.: a várható értéket a mintaátlaggal becsüljük, az empirikus és a korrigált empirikus szórás a szórás becslései. A becslésektől elvárjuk, hogy (legalább aszimptotikusan) torzítatlanok legyenek, valamint a becslés standard hibája a mintaszám növelésével nullához tartson. Ha kicsi a mintaszámunk, akkor nemcsak, hogy pontatlan lesz a becslésünk, de a pontosság jellemzőit sem tudjuk megbecsülni (pl.: konfidencia-intervallum) a klasszikus statisztika eszközeivel.<br /> <br /> Mikor nevezhető kicsinek a mintaszám? Akkor, ha a becslés pontossági jellemzőinek (torzítás, standard hiba, konfidencia-intervallum) az ''n'' elemű mintából történő becslésekor indokolatlan a határeloszlásra való áttérés (a &quot;klasszikus&quot; képletek nem alkalmazhatók). A probléma megoldására találták ki az újra mintavételező módzsereket<br /> <br /> ==Bootstrap módszer==<br /> Legyen ''X'' egy valószínűségi változó, &lt;math&gt;x = (x_1, x_2, ..., x_n)&lt;/math&gt; pedig egy ''n'' elemű minta X-re, s(x) pedig ''X'' valamely paraméterének becslése. A bootstrap-szimuláció során visszatevéssel egy új, szintén ''n'' elemű mintát veszünk: &lt;math&gt;x^* = (x_1^*, x_2^*, ..., x_n^*)&lt;/math&gt;. Pl.: n=5-re: &lt;math&gt;x^* = (x_2, x_4, x_1, x_2, x_1)\,&lt;/math&gt;. Az x&lt;sup&gt;*&lt;/sup&gt;-ra is alkalmazzuk s(x)-et, így s(x&lt;sup&gt;*&lt;/sup&gt;)-ot kapjuk. Az eljárást N-szer megismételjük, így kapjuk s(x)-ek egy sorozatát: &lt;math&gt;s(x_1^*), s(x_2^*), ... s(x_N^*)&lt;/math&gt;. Ha N elég nagy, akkor az s(x) becslés ''bootstrap-utánzatainak'' empirikus eloszlása jól modellezi az adott statisztika elméleti eloszlását.<br /> <br /> ==Jackknife módszer==<br /> Ha van egy ''n'' elemű mintánk, annak az átlagát &lt;math&gt;\bar{x}&lt;/math&gt; jelöli. Ugyanakkor kiszámolhatjuk az átlagot akkor is, ha a ''j''-edik elemet kivágjuk (erre utal a módszer elnevezése is):<br /> <br /> &lt;math&gt;\bar{x}_{-j} = \frac{1}{n-1} \sum_{i \neq j}^n x_i&lt;/math&gt;<br /> <br /> Vegyük észre, hogy ha ismert &lt;math&gt;\bar{x}&lt;/math&gt; és &lt;math&gt;\bar{x}_{-j}&lt;/math&gt; is, akkor ki tudjuk számolni x&lt;sub&gt;j&lt;/sub&gt;-t: &lt;math&gt;x_j = n \bar{x} - (n-1) \bar{x}_{-j}&lt;/math&gt;<br /> <br /> Tegyük fel, hogy az eloszlás egy &lt;math&gt;\theta&lt;/math&gt; paraméterét akarjuk meghatározni. ''n'' pontra ennek a becslése:<br /> <br /> &lt;math&gt;\hat{\theta} = \phi (x_1, x_2, ..., x_n)&lt;/math&gt;<br /> <br /> Az előző ötletet felhasználva &lt;math&gt;\theta&lt;/math&gt; egy részleges becslését kapjuk, ha kivesszük a ''j''-edik elemet:<br /> <br /> &lt;math&gt;\hat{\theta}_j = \phi (x_1, x_2, ..., x_{j-1}, x_{j+1}, ... x_n)&lt;/math&gt;<br /> <br /> Szintén az előző ötlet alapján kiszámolhatjuk a ''j''-edik ''pszeudoértéket'':<br /> <br /> &lt;math&gt;\hat{\theta^*}_j = n \hat{\theta} - (n-1) \hat{\theta}_j&lt;/math&gt;<br /> <br /> A fentiek alapján a &lt;math&gt;\theta&lt;/math&gt; jackknife becslése:<br /> <br /> &lt;math&gt;\hat{\theta^*} = \frac{1}{n} \sum_{i=1}^n \hat{\theta^*}_i&lt;/math&gt;<br /> <br /> A &lt;math&gt;\theta&lt;/math&gt; paraméter varianciáját a pszeudoértékekből becsülhetjük:<br /> <br /> &lt;math&gt;Var(\hat{\theta^*}) = \frac{\sum_{j=1}^n (\hat{\theta^*}_j - \hat{\theta^*} )^2}{n(n-1)}&lt;/math&gt;<br /> <br /> ==Cross-validation==<br /> A cross-validation egy olyan statisztikai módszer, melyben a rendelkezésre álló adatokat két csoportba osztjuk: egy tanító halmazra, amelyre az analízist végezzük, és egy teszt halmazra, amin kiértékeljük az analízis eredményét. A leginkább használt típusa a ''k-fold cross-validation'', amiben az adatokat ''k'' darab, közel egyforma méretű csoportba osztjuk. A módszer ''k'' darab iterációt használ, és minden iterációban egy másik csoportot választunk tanító halmaznak, a többi pedig a teszt halmaz lesz. A leggyakoribb a ''k''=10 eset.<br /> <br /> A cross-validation-t kétféle célból használhatjuk:<br /> # Megbecsüljük egy modell hatékonyságát a rendelkezésre álló adatokon<br /> # Összehasonlítsunk két vagy több modellt, és eldöntsük, melyik írja le jobban az adatainkat<br /> <br /> A módszer menete a következő (az ''i''-edik iterációban, i = 1, ..., k):<br /> # Az ''i''-edik csoportra illesztjük a modellt (a modell lehet lineáris, polinom, stb.)<br /> # A modellt alkalmazzuk a teszt halmazra, és kiszámítjuk az eltérést a modelltől (négyzetes hiba)<br /> # ''i''-t léptetjük<br /> <br /> Két modell összehasonlításához az így kapott négyzetes hibákat kell összehasonlítani, amelyikre kisebb, az jobban leírja az adatokat.<br /> <br /> {{MSc 2012 záróvizsga}}</div>

CzGabe