Estimation of nonparametric probability density functions with applications to automatic speech recognition [Elektronische Ressource] / von Martin Schafföner

Sujets

• Informatik
• Mathematics

Informations

• Publié par: otto-von-guericke-universitat_magdeburg
• Publié le: 01 janvier 2007
• Nombre de lectures: 9
• Langue: Deutsch
• Poids de l'ouvrage: 1 Mo

Extrait

FOtto-vlon-GuerickeGutachter:Universit?M?trmationstechnikMaendemuthgdebur2007gBurgFtechniakulvon-Guerickter.?R?digert28.f?ramElektr1978otechnikdurchundf?rInfundormaOttotionstechnikUniversit?tEstimationDr.ofAndreasNonpaDr.-Ing.rametricPromotionskProbabilitqiumyeDensitgeb.y18.FrzunctionsinwithgenehmigtAppdielakult?ticationsElektrotokAutomaticInfoSpdereech-RecognitioneDissertationMagdeburgzurProf.Erlangungrdesnat.akWademischenProf.Gradeshabil.DoktoHomannringenieuro(Dr.-Ing.)lovonamDipl.-Ing.NovembMarrtinScha?nerElternF?rmeineotenZusammenfassungwsImZerlegungletztenwJahrzehnstimhatz.einkneueseitLernparadigma,tdieunsog.(NMV)StrukturelleEKVF-RegressionRisikann.omi-dienimierungt(SRM),Dievielhf?hrungBeacrainingspunktehtentungwirdimdeutlicBereichenhhdeswMascbhinellennicLernenstgefunden.aufAufeisenSRMeinembasierendetraditio-Lernmaschrhinen,anwielle.z.erimenB.ungen,SuppVortspVAktualisierungectoremmatrix.Maczuhinesw(SVMs)esserteomitderNormal-MiscKernelLeistungFisheresetztenDiscriDieminandietsK(KFDs)hdimensionalenwurdenASE?bendeteMethordurcayuscseneSVMsrfolgreicAnsatzhaufzurgetestet,L?sungdeutlicvesondereontenMustererkzeigenennrbungs-neuartigenundbiblFumfangrei-unktionsregressionsproblemenorgestellt.angewscendet.terDor.iebM?g-einerlichereziehkbeitorthogona-derPSRM,MethogleicStandardproblemenhzeitigDimedashFeiehlerrisikvosaufergleicTnrainingsdatendellenundvdie?hnlicKdieomple-vxit?tarzenderdelleLeeitrnterhin,mdeascegenhinederzuhominimieren,wief?hrtinzuheinen,btesserererdenGeneraliwsierungsf?higkbeitWDFalsAkderonhenvosterioriwenhktionelledenEmpirisconherennfunktionenRisikderomwurden.inimierungi(ERM),ASE-insbResourceesonderehdatenbobeiHMM-NMV-Mokleinen?bLernsticerden,hprobben.nDiehprobverimenorliegendeeineArbVeitderbhescdh?ftigtneuartigesiczurhteilwmithenderwirdAn?rwwirdendungBerecdeanrTSRMvaufDasdieerfahrenSceruhh?tzungaufvneuartigenoneicWnahrscd?nnheinlicesetztenhkdereitsdiclenhdertefunktionenrobl(WDFDies).deWDFaufsbiswf?nferdennsionenu.tersuca.t,alsobEmissionswsieahrschheierbnLeiltungenicVhkheitentraditionellebparametrisceiModerwieMohdellierungerteilungenvundonhekwieontheoretisctinoptimalen,uierlicollbh-wPertigenWindoMustersequenzenWDF-Momitzeigt.HilfeArbvzeigtoneiHdassiddenMethoMarkderowvderMoomplexit?tdelsEKVF(HMMs),eiz.cB.Problemen,insiederB.auto-dermatiscerschenallerdingsSprachherkangewennwungk(ASE),Einebeitereendeutzt.estimmDiesedaherDissesrhtationnendungunBatees'scrRegelsucPhahr-theinlicundeiten,eausnAusgabtvwicpaarwkTeltwieMethoodenKFDszuralibriertezienDiesertenwirdScnh?tzungMonophon-HMMvSystemonderd?nnManagemenbSpracesetztenbankKernelwWDFeisnelledurcdellehhRegressionerbderwempiriscinsbhenaufkumesculativ?enk-VSticerteien.lungsfunktExpiteonalso(EKVF).signikWirtestelelenesserungeinGeneralisierungsf?higkneuesdurcVdieerfahrenWDF-MozureBestimmEineungProgrammei-iotheknerDurcd?nnderbeiseesetzencN?herungExpderteorthogonalenvkleinste-Quadrate-Regressionsl?sungPrimdurcehZielVauforwhnelle?rtsauswhnahlrelevlEinfacherhheitterinstBezugjektorienaufaufAusdructkfeinkvhondelAlgorithmensounder-Fuunktionserwduktivit?teiterungBibliothekso-AwieerwaufeinemFlPexibilit?ttrans-zurehlerbbPestm?glicmithenSpAusnCluster)utzungstatvVIorteilhafteriEigenscdiehaftenmitv?rnigeronbAlgorithmenauf?bgelegt.acDieung,Bibliothekobfolgttierteneinemersistenzmoobl,jektorienparentiertenFDesignehandlungundwiewurarallelisierung-ComputersystemendevinteiltemC++eicimplemen(sog.tiert.aZursgeErh?hteung.derProinAbstractInstead,Duringparametricthetlylastject-oriendecade,itaynewllearningwsparadigmofcaltheledestimatingStructuralhRiskResourceMinimizationimpro(librarySRMprop)orderivlelizationedshofromandStatisticalPDFLearningcannotTheorycomplexit,outputshasturnedbwithinecomeHMMwidelywhicstudiedoninvma-putcyhineanlearning.bMacishineseimplemenbtingeSRMp,delse.ng.,PSuppwortthisVtoectorASRMacECDFhinesprobabilities(rimi-SVMors)PDFandapproacKernelASRFishertask,Discriminansigtson(neKFDizations),orderhtalearningvPrimaryesimplicitbalgorithmseenyvproperywsuccetedsstedf,ullyne-grainedusedmoforhandlingsolvingcomputerpatternhmarkrecognitiontoandnfunctionsupretogressionMixtureproblems.GMMSRMp'seabilitoptimal,ywindotodels.simeultane-foundouslymethominimizeetheproblemrisksoftoerrorofonhightrainingosteriordatafromandbinarythetscomplexitSVMysoftoausinglearn-rule.ingismacmonophonehineonresultsagemeninerformingbGMMetterigeneralizationespcapabilitlimitedydemonstratesthanmoplainedEmpiricaltRiskproblems.Minimizationrealize(expERMa),macespweciallypresenifcusthefastamounbtofofextendingtraininganddatorderaappreciateisandlimited.TheThelibrarypresenobtandwimpleorkC++.isductivitdevlotededtoanapplyipntransparengoSRMptodistributed-thestandardproblemencofproblemsprobabilitupyvdensitdimensioys,functionwing(eriorPDFerformance)traditionalestimation.GaussianWhenMomo(delings)sequencesimilarserformaofccontotintheoreticallyuous-vnon-sparsealuedarzenevwsenmotsHousingevHiddenr,MarkisothatvnewModdelsb(appliedHMMthes),ofe.PDFg.,forautomaticduesptheeecyhtherecognitionin(dimensions.ASRp),classPDFcalibratedstheareofuseddisctonanmosucdeaslstheKFDemissionareprobabilitiesinofclass-conditionalthesHMMBas'es'states.ThisThishthesistestedinavHMMestigatessystemandthedevMan-elopstmethooutpdstraditionalto-esystemscienntlycantrain,sparseeciallykrandomernelsamplesPDFhmothedelswbdels'yvregressiongeneral-ofabilitheyempiricalsmall-samplecumInulativtoethesedistributionarge-scalefunctionerimen(s,ECDFno).elAhinenewsoftmethoaredisforted.obtainingfoaissparseonapprocomputations,ximationyofoththetermsorthogonalexpressingleast-squaresandregressionfunctionalitsolution,bexibilityinforwtoard-selectionerlyofalgorithms'relevertiesanadvttages.samplessoftisarepresenfolloted,anwhereject-orienadesignnohasveenelmenmemory-ecienintFthinproupydatetheofibrarytequipphewithorthogonaltracing,decompobositiontedisersistenceused.del,Thtirrsrmethoanddaralisonevmemoryaluatedclusters.onIVIIfundsAhsen-AnhaltcknowifewledgmenastsnotIouldwroughouldtlikBildungefamilytoallexpressossible.mthisyThisgratefulnessossibletoFmnyhsuptoervisorbProf.suppAndreasthisWeendemstateuthsuppfororkhisgransupporkortmadeinamakiynh-Naumann-StiftunggthethissteriumdissertationFpLastossibleI.mMymthanksvalsoa-KristingomeesWithouttoorkmhayeencolleaguesfederalatSactheforKortingognitivwethSystemeact.hairwinwMagdeburg,alsoesppeciallthroughygrantobEdintheAn-riedricdelic,withMarcelfromKatz,BundesmiandiSvf?renundKr?ger.orscIung.ambutdeeplyleast,indebtedwishtothankthemyforandtheyveloaluableeddiscussionsEvwforeortinghatad.times.Fthem,urthermore,wIwwnotanvtbtopthankIXtheX