Data based decisions under complex uncertainty [Elektronische Ressource] / Robert Hable

Robert Hable

Sujets

• Wissenschaft
• Mathematics

Informations

• Publié par: ludwig-maximilians-universitat_munchen
• Publié le: 01 janvier 2009
• Nombre de lectures: 30
• Langue: English
• Poids de l'ouvrage: 1 Mo

Extrait

Data-Based Decisions under
Complex Uncertainty
Dissertation
an der Fakultat fur Mathematik, Informatik und Statistik der
Ludwig-Maximilians-Universitat Munc hen
Robert Hable
03. November 2008Erstgutachter: Prof. Dr. Thomas Augustin
Zweitgutachter: PD Dr. Christian Heumann
Drittgutachter: RNDr. Jirina Vejnarov a, CSc.
Rigorosum: 05. Februar 2009Abstract
Decision theory is, in particular in economics, medical expert systems and statistics, an im-
portant tool for determining optimal decisions under uncertainty. In view of applications
in statistics, the present book is concerned with decision problems which are explicitly
data-based. Since the arising uncertainties are often too complex to be described by clas-
sical precise probability assessments, concepts of imprecise probabilities (coherent lower
previsions, F-probabilities) are applied. Due to the present state of research, some basic
groundwork has to be done: Firstly, topological properties of di erent concepts of impre-
cise probabilities are investigated. In particular, the concept of coherent lower previsions
appears to have advantageous properties for applications in decision theory. Secondly,
several decision theoretic tools are developed for imprecise probabilities. These tools are
mainly based on concepts developed by L. Le Cam and enable, for example, a de nition
of su ciency in case of imprecise probabilities for the rst time.
Building on that, the article [A. Buja, Zeitschrift fur Wahrscheinlichkeitstheorie und Ver-
wandte Gebiete 65 (1984) 367-384] is reinvestigated in the only recently available frame-
work of imprecise probabilities. This leads to a generalization of results within the Huber-
Strassen theory concerning least favorable pairs or models.
Results obtained by these investigations can also be applied afterwards in order to justify
the use of the method of natural extension, which is fundamental within the theory
of imprecise probabilities, in data-based decision problems. It is shown by means of
the theory of vector lattices that applying the method of natural extension in decision
problems does not a ect the optimality of decisions. However, it is also shown that, in
general, the method of natural extension su ers from a severe instability.
The book closes with an application in statistics in which a minimum distance estimator
is developed for imprecise probabilities. After an investigation concerning its asymptotic
properties, an algorithm for calculating the estimator is given which is based on linear
programming. This algorithm has led to an implementation of the estimator in the
programming language R which is publicly available as R package \imprProbEst". The
applicability of the estimator (even for large sample sizes) is demonstrated in a simulation
study.iiZusammenfassung
Die Entscheidungstheorie ist vor allem in den Wirtschaftswissenschaften, bei medizini-
schen Expertensystemen und in der Statistik ein wichtiges Werkzeug zur Bestimmung op-
timaler Entscheidungen in Unsicherheitssituationen. Im Hinblick auf statistische Anwen-
dungen beschaftigt sich die vorliegende Arbeit mit Entscheidungsproblemen, die explizit
datenbasiert sind. Da die auftretenden Unsicherheiten hau g zu komplex sind, um durch
klassische prazise Wahrscheinlichkeiten beschrieben werden zu konnen, werden Konzepte
unscharfer Wahrscheinlichkeiten (coherent lower previsions, F-Wahrscheinlichkeiten) ver-
wendet. Entsprechend des derzeitigen Forschungsstands sind zunachst einige Grundlagen-
arbeiten notig: Zum einen werden topologische Eigenschaften verschiedener Konzepte un-
scharfer Wahrscheinlichkeiten untersucht, wobei sich herausstellt, dass vor allem coherent
lower previsions gunstige Eigenschaften fur die Verwendung in der Entscheidungstheorie
besitzen. Zum anderen werden verschiedene entscheidungstheoretische Werkzeuge speziell
fur die Situation unscharfer Wahrscheinlichkeiten entwickelt. Diese basieren hauptsachlich
auf Arbeiten von L. Le Cam und ermoglichen zum Beispiel erstmals eine De nition der
Su zienz f ur unscharfe Wahrscheinlichkeiten.
Aufbauend auf diese Grundlagen wird die Arbeit [A. Buja, Zeitschrift fur Wahrscheinlich-
keitstheorie und Verwandte Gebiete 65 (1984) 367-384] mit Hilfe der noch relativ neuen
Konzepte unscharfer Wahrscheinlichkeiten untersucht. Hierdurch ergibt sich eine Ver-
allgemeinerung von Resultaten aus der Huber-Strassen-Theorie ub er ungunstigste Paare
bzw. Modelle.
Dabei gewonnene Resultate werden anschlie end dazu verwendet, um die f ur die Theorie
der coherent lower previsions grundlegende Methode der natural extension fur die Ver-
wendung bei datenbasierten Entscheidungsproblemen zu rechtfertigen. Es wird mit Hilfe
der Vektorverbandstheorie gezeigt, dass Anwendungen der natural extension in Entschei-
dungsproblemen keinen Ein uss auf die Optimalit at von Entscheidungen haben. Ande-
rerseits wird aber auch gezeigt, dass { ganz unabhangig von der Entscheidungstheorie {
die Methode der natural extension ein ernstes Stabilitatsproblem besitzt.
Als statistische Anwendung wird abschlie end ein Minimum-Distanz-Sch atzer fur un-
scharfe Wahrscheinlichkeiten entwickelt und auf dessen asymptotische Eigenschaften un-
tersucht. Basierend auf linearer Programmierung wird ein Algorithmus zur Berechnung
des Schatzers erarbeitet, der inzwischen in der Programmiersprache R implementiert und
als R-Paket \imprProbEst" frei verfugbar ist. Die Anwendbarkeit des Schatzers (auch bei
gro en Stichprobenumf angen) wird in einer Simulationsstudie demonstriert.ivAcknowledgments
First of all, I would like to thank my advisor, Thomas Augustin, for his guidance, sugges-
tions and support { not only with respect to this work. I am particularly grateful to him
for giving me a great amount of freedom in my research. Writing a Ph.D. thesis under
his guidance is a pleasure. He also had a very positive in uence on my style of writing as
he convinced me (and frequently reminded me) to add some text between the formulas.
Next, I would like to thank Andreas Christmann and Helmut Rieder who gave me the
opportunity to nish my Ph.D. thesis in Bayreuth. In addition, I thank Helmut Rieder
and Peter Ruckdeschel for drawing my attention to the work of A. Buja and L. Le Cam
which had a high impact on the present book. I am also much indepted to Matthias Kohl
for his support in programming with R which enabled me to add a simulation study.
Last but not least, I would like to thank the Cusanuswerk (foundation of the Roman
Catholic Church) for a Ph.D. scholarship; the present work would not have been possible
without it.viContents
1 Introduction 1
2 Topological aspects of imprecise probabilities 11
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.2 Precise probabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.2.1 Probability charges . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.2.2y measures . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.2.3 -additivity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3 Coherent upper previsions . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.4 Upper/lower expectations and F-probabilities . . . . . . . . . . . . . . . . 20
2.4.1 De nitions and basic properties . . . . . . . . . . . . . . . . . . . . 20
2.4.2 Continuous upper expectations . . . . . . . . . . . . . . . . . . . . 25
2.4.3 Upper expectations on Polish spaces . . . . . . . . . . . . . . . . . 26
2.4.4 Upper exp on compact Hausdor spaces . . . . . . . . . . 31
2.4.5 F-probabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.5 Representation of coherent upper previsions . . . . . . . . . . . . . . . . . 35
2.5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.5.2 Stone representation . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.5.3 Coherent upper previsions represented by upper expectations . . . . 40
3 Extended decision theoretic framework 45
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.2 Basic de nitions in decision theory . . . . . . . . . . . . . . . . . . . . . . 48
3.3 Extended decision theoretic concepts . . . . . . . . . . . . . . . . . . . . . 50
3.3.1 Generalized Randomizations . . . . . . . . . . . . . . . . . . . . . . 50
3.3.1.1 De nitions and basic properties . . . . . . . . . . . . . . . 50
3.3.1.2 Generalized decision procedures . . . . . . . . . . . . . . . 55
3.3.2 Su ciency and equivalence of imprecise models . . . . . . . . . . . 55
3.3.2.1 De nitions and basic properties . . . . . . . . . . . . . . . 55
3.3.2.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
3.3.3 Standard Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.4 Connection to Le Cam’s general setup . . . . . . . . . . . . . . . . . . . . 68
3.4.1 Outline of Le Cam’s general setup . . . . . . . . . . . . . . . . . . . 68
3.4.1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.4.1.2 The sample space ( ;A) . . . . . . . . . . . . . . . . . . . 69
3.4.1.3 Dispensing with the sample space . . . . . . . . . . . . . . 72
3.4.1.4 Concrete representations of the general concepts . . . . . . 76
3.4.1.5 Advantages of the abstract setup . . . . . . . . . . . . . . 77
viiviii CONTENTS
3.4.2 Accordance w