Fråga:
En bra Gibbs-provhandledning och referenser
fabrizioM
2011-03-19 14:07:53 UTC
view on stackexchange narkive permalink

Jag vill lära mig hur Gibbs Sampling fungerar och jag letar efter en bra grundläggande till mellanliggande papper. Jag har en datavetenskaplig bakgrund och grundläggande statistikkunskap.

Någon har läst bra material runt omkring? var lärde du dig det?

Tack

googling "Gibbs sampling" är inte ett dåligt sätt att få en rad åsikter om ämnet. Jag tycker att det är ett bra sätt att börja, för du tenderar att närma dig det med ett "skeptiskt sinne" - du kan inte ta googles ord för givet, så du måste hitta en rad åsikter. Naturligtvis kan du behöva en ansedd källa i ett senare skede när du försöker implementera. Men att börja med den "ansedda källan" är inte alltid den bästa idén, för de kan vara ganska knutna till ett visst sätt att göra något - dvs. de vet "rätt väg" och "alla andra är fel eller ineffektiva".
(+1) Frågor som lätt kan besvaras av Googling är vanligtvis inte välkomna, men den här IMO försöker utnyttja den kollektiva visheten hos en gemenskap på ett sätt som Googles ranking inte kan göra. Det vore intressant att se vilka källor människor * verkligen * tyckte användbara för att lära sig detta material.
Det är problemet. Google returnerar alldeles för många resultat och inte alla artiklar eller handledning är tillräckligt tydliga.
Tre svar:
onestop
2011-03-20 01:19:38 UTC
view on stackexchange narkive permalink

Jag skulle börja med:

Casella, George; George, Edward I. (1992). " Förklarar Gibbs-samplaren". Den amerikanska statistikern 46 (3): 167–174. ( GRATIS PDF)

Sammanfattning : Datorintensiva algoritmer, som Gibbs sampler, har blivit alltmer populära statistiska verktyg, både i tillämpat och teoretiskt arbete. Egenskaperna hos sådana algoritmer kan emellertid ibland inte vara uppenbara. Här ger vi en enkel förklaring av hur och varför Gibbs sampler fungerar. Vi analyserar dess egenskaper analytiskt i ett enkelt fall och ger insikt för mer komplicerade fall. Det finns också ett antal exempel.

Den amerikanska statistikern är ofta en bra källa för korta (ish) inledande artiklar som inte antar någon förkunskap om ämnet, även om de antar att du har bakgrunden i sannolikhet och statistik som rimligen kan förväntas av en medlem i American Statistical Association.

JasonMond
2011-03-20 02:18:56 UTC
view on stackexchange narkive permalink

En onlineartikel som verkligen hjälpte mig att förstå Gibbs-sampling är Parameteruppskattning för textanalys av Gregor Heinrich. Det är inte en allmän Gibbs-samplingshandledning men den diskuterar den i termer av latent dirichletallokering, en ganska populär Bayesian-modell för dokumentmodellering. Det går in i matematiken i rätt detalj.

En som går in i ännu mer uttömmande matematisk detalj är Gibbs Sampling for the Uninitiated. Och jag menar uttömmande genom att det förutsätter att du känner till någon multivariat kalkyl och sedan lägger ut varje steg från den punkten. Så medan det finns mycket matte är inget av det avancerat.

Jag antar att dessa kommer att vara mer användbara för dig än något som får mer avancerade resultat, som de som bevisar varför Gibbs-sampling konvergerar till rätt distribution. De referenser jag påpekar bevisar inte detta.

ely
2012-03-19 05:50:49 UTC
view on stackexchange narkive permalink

Boken Monte Carlo Strategies in Scientific Computing är en utmärkt resurs. Det tar upp saker på ett matematiskt noggrant sätt, men du kan enkelt hoppa över matematiska avsnitt som inte intresserar dig och ändå får massor av praktiska råd. I synnerhet gör det ett bra jobb med att knyta ihop Metropolis-Hastings och Gibbs-provtagning, vilket är avgörande. I de flesta applikationer måste du rita från en bakre fördelning med hjälp av Gibbs-sampling, och det är bra att veta hur det passar in i Metropolis logik i allmänhet.



Denna fråga och svar översattes automatiskt från det engelska språket.Det ursprungliga innehållet finns tillgängligt på stackexchange, vilket vi tackar för cc by-sa 2.0-licensen som det distribueras under.
Loading...