Rendering methods for augmented reality [Elektronische Ressource] / vorgelegt von Jan T. Fischer

RenderingMethodsforAugmentedRealityDissertationderFakultat¨ fur¨ Informations-undKognitionswissenschaftenderEberhard-Karls-Universitat¨ Tubingen¨zurErlangungdesGradeseinesDoktorsderNaturwissenschaften(Dr.rer.nat.)vorgelegtvonDipl.-Inform.JanT.FischerausMainzTubingen¨2006Tag der mundlichen¨ Qualifikation: 14.06.2006Dekan: Prof.Dr.rer.soc.MichaelDiehl1.Berichterstatter: Prof.Dr.-Ing.Dr.-Ing.E.h.WolfgangStraßer2. Prof.Dr.rer.nat.BerndFrohlich¨(Bauhaus-Universitat¨ Weimar)3.Berichterstatter: PDDr.rer.nat.DirkBartzErklarung¨Hiermiterklare¨ ich,dassichdieArbeitselbstandig¨ undnurmitdenangegebenenHilfsmittelnangefertigt habe und dass alle Stellen, die im Wortlaut oder dem Sinne nach anderen Werkenentnommensind,durchAngabenderQuellenalsEntlehnungkenntlichgemachtwordensind.Tubingen,¨ Februar2006 Jan FischerivZusammenfassungIn den letzten Jahren hat sich die Erweiterte Realitat¨ (englisch: Augmented Reality)zuei-ner vielversprechenden und schnell an Bedeutung gewinnenden Anwendung der Computer-graphik entwickelt. Augmented-Reality-Systeme kombinieren vom Computer erzeugte gra-phische Darstellungen mit der Ansicht der realen Welt. Mehrere zentrale Problemstellungenlassen sich im Bereich der Augmented Reality identifizieren. Dabei handelt es sich um dieEntwicklung spezieller Anzeigegerate,¨ das Kamera-Tracking, den Systementwurf, die Benut-¨zerinteraktion und Darstellungsverfahren.
Publié le : dimanche 1 janvier 2006
Lecture(s) : 20
Tags :
Source : W210.UB.UNI-TUEBINGEN.DE/DBT/VOLLTEXTE/2006/2380/PDF/JANFISCHER_THESIS_2006.PDF
Nombre de pages : 183
Voir plus Voir moins

RenderingMethodsfor
AugmentedReality
Dissertation
derFakultat¨ fur¨ Informations-undKognitionswissenschaften
derEberhard-Karls-Universitat¨ Tubingen¨
zurErlangungdesGradeseines
DoktorsderNaturwissenschaften
(Dr.rer.nat.)
vorgelegtvon
Dipl.-Inform.JanT.Fischer
ausMainz
Tubingen¨
2006Tag der mundlichen¨ Qualifikation: 14.06.2006
Dekan: Prof.Dr.rer.soc.MichaelDiehl
1.Berichterstatter: Prof.Dr.-Ing.Dr.-Ing.E.h.WolfgangStraßer
2. Prof.Dr.rer.nat.BerndFrohlich¨
(Bauhaus-Universitat¨ Weimar)
3.Berichterstatter: PDDr.rer.nat.DirkBartzErklarung¨
Hiermiterklare¨ ich,dassichdieArbeitselbstandig¨ undnurmitdenangegebenenHilfsmitteln
angefertigt habe und dass alle Stellen, die im Wortlaut oder dem Sinne nach anderen Werken
entnommensind,durchAngabenderQuellenalsEntlehnungkenntlichgemachtwordensind.
Tubingen,¨ Februar2006 Jan Fischeriv
Zusammenfassung
In den letzten Jahren hat sich die Erweiterte Realitat¨ (englisch: Augmented Reality)zuei-
ner vielversprechenden und schnell an Bedeutung gewinnenden Anwendung der Computer-
graphik entwickelt. Augmented-Reality-Systeme kombinieren vom Computer erzeugte gra-
phische Darstellungen mit der Ansicht der realen Welt. Mehrere zentrale Problemstellungen
lassen sich im Bereich der Augmented Reality identifizieren. Dabei handelt es sich um die
Entwicklung spezieller Anzeigegerate,¨ das Kamera-Tracking, den Systementwurf, die Benut-
¨zerinteraktion und Darstellungsverfahren. Wahrend sich der Großteil vorhergehender Arbei-
ten mit den Problemen des Systementwurfs, des Kamera-Trackings und mit Anwendungen
der Augmented Reality befasste, liegt der Schwerpunkt dieser Doktorarbeit auf dem bislang
relativwenigbeachtetenThemaderDarstellungstechniken.
ImerstenTeildieserDoktorarbeit(Kapitel2)wirdeinneuentwickeltesSystemfur¨ dieme-
dizinischeAugmentedRealityvorgestellt [22].DasARGUS-ProjektisteinneuesAugmented-
Reality-System, das auf einem kommerziellen intraoperativen Navigationsgerat¨ basiert, wo-
durch ein Einsatz in der klinischen Praxis erleichtert werden konnte.¨ Mehrere Erweiterungen
desgrundlegendenProjektswerdenbeschrieben,daruntereinhybridesTracking-Verfahren,ei-
ne Bibliothek fur¨ die Benutzerinteraktion und eine Methode fur¨ die Verdeckungsbehandlung.
Letztere macht es moglich,¨ die Verdeckung graphischer Objekte durch die Patientenanatomie
¨ ¨korrekt darzustellen, was zu einer realistischeren und verstandlicheren Ausgabe fuhrt. Dieser
Algorithmus ist eine der fortgeschrittenen Darstellungstechniken fur¨ Augmented Reality, die
imRahmendieserDoktorarbeitentwickeltwurden.
Der zweite Teil dieser Doktorarbeit, Kapitel 3, stellt das neue Konzept der Stylized Aug-
mented Reality vor. Dabei werden kunstlerische¨ oder illustrative Stilisierungsmethoden auf
Augmented-Reality-Videostrome¨ angewendet[15].DadiegleicheArtderStilisierungaufvir-
tuelle und reale Bildelemente angewendet wird, nimmt ihre Unterscheidbarkeit stark ab. Auf
diese Art und Weise wird ein neuartiges Augmented-Reality-Erlebnis vermittelt, und mogli-¨
cherweise wird eine bessere Immersion erzeugt. Echtzeitverfahren fur¨ die Cartoon-artige und
malerische Stilisierung von Augmented-Reality-Bildern werden beschrieben. Auch der Ein-
satz programmierbarer Graphikhardware zu diesem Zweck wurde untersucht. Zudem werden
die Ergebnisse einer psychophysikalischen Studie uber¨ die Unterscheidbarkeit virtueller Ob-
jekteinderStylizedAugmentedRealityprasentiert.¨
ZuBeginnvonKapitel4,dasdendrittenTeildieserDoktorarbeitdarstellt,wirdeineneue
MethodederillustrativenVisualisierungbeschrieben.DieserneueDarstellungsalgorithmusfur¨
Isoflachen¨ und polygonale Modelle erzeugt die illustrative Abbildung einer Oberflache¨ und
dahinterversteckterStrukturen[12].DieMethodewurdefur¨ dieprogrammierbarenArchitek-
turen moderner Graphikhardware entworfen und kann komplexe Modelle in Echtzeit darstel-
len. Eine Erweiterung dieses neu entwickelten Darstellungsstils wurde auch auf Augmented-
Reality-Videostrome¨ angewendet.DieseEntwicklungstellteineweitereRealisierungdesKon-
zeptsderStylizedAugmentedRealitydar.v
Abstract
Augmented reality (AR) has become a promising and fast-growing application of computer
graphics over the course of the last years. Augmented reality systems overlay-
generated graphical information over the view of the real world. Several main research chal-
lenges can be identified in the field of augmented reality. These are the design of advanced
display devices (e.g., head-mounted displays), camera tracking, system design, user interac-
tion, and rendering. While a major part of the previous work focused on the problems of
system design, camera tracking, and applications of AR, this thesis puts a different emphasis
on the relatively underrepresented aspect of rendering techniques. In this thesis, several novel
methodsfordisplayingaugmentedvideostreamsareexplored.
InthefirstpartofthisthesisinChapter2,thedesignandimplementationofanovelsystem
formedicalaugmentedrealityarediscussed[22]. TheARGUSframeworkisanewaugmented
reality system based on a commercial surgical navigation device. Since it does not require
any additional hardware components, a transition into the clinical practice can be facilitated.
Several extensions of the basic framework are described, including a hybrid tracking scheme,
a user interaction library, and a method for handling occlusion. The latter algorithm makes it
possible to correctly render the occlusion of graphical objects by the anatomy of the patient,
leading to a more realistic and easily comprehensible output. This approach is one of the
advancedrenderingmethodsforaugmentedrealityinvestigatedinthecontextofthisthesis.
The second part of this thesis, Chapter 3, introduces the concept of stylized augmented
reality, which applies artistic or illustrative stylization methods to augmented reality video
streams [15]. Since the same type of stylization is applied to virtual and real scene elements,
they become difficult to distinguish. This way, a novel augmented reality experience is cre-
ated,andpossiblyevenabetterimmersion. Real-timealgorithmsforcartoon-likeandpainterly
brush stroke stylization of augmented video streams are described. The exploitation of pro-
grammable graphics hardware for this purpose is discussed. Moreover, the results of a psy-
chophysical study on the discernability of virtual objects in stylized augmented reality are
presented.
At the beginning of Chapter 4, which is the third part of this thesis, a novel illustrative
visualization method is described. This new rendering algorithm for iso-surfaces and polyg-
onal models generates an illustrative representation of a surface and structures hidden behind
it [12]. The method is designed for the programmable rendering pipelines of modern graph-
ics hardware and is capable of displaying complex models in real-time. An extension of this
newlydevelopedillustrativedisplaystylewasalsoappliedtoaugmentedrealityvideostreams.
Thissystemconstitutesanotherrealizationoftheconceptofstylizedaugmentedreality.Acknowledgements
This thesis was conducted during my occupation as research assistant in the group Visual
ComputingforMedicine(VCM)atthedepartmentGraphical-InteractiveSystems(WSI/GRIS)
oftheUniversityofTubingen.¨ Theresearchdescribedinthisdissertationwouldnothavebeen
possible without the support and encouragement of many people. First and foremost, I would
liketothankmyadvisorsProf.Dr.-Ing.Dr.-Ing.E.h.WolfgangStraßer(headofthedepartment
WSI/GRIS) and PD Dr. Dirk Bartz (head of VCM). They provided me with a pleasant and
productive work atmosphere and the opportunity to freely explore different research topics,
evenifthesesometimesstretchedthestrictdefinitionofmyresearchgrantalittle. Iwouldalso
¨liketothankProf. Dr. BerndFrohlich,whoagreedtobepartofmygraduationcommittee.
Anothermainreasonforthegoodandfruitfulenvironmentwerethecolleagueswithwhom
I worked together in the department. In particular, I would like to express my gratitude to-
´wards Angel del R´ıo for the inspiring scientific collaboration as well as countless pounds
of great Spanish coffee. I would also like to thank Zein Salah, who is another member of
the VCM group, for many interesting conversations. The colleagues who shared the office
with me, Stefan Kimmerle and Bernhard Thomaszewski, deserve to be mentioned, if nothing
else, for bearing with my curses and other types of monologues at the computer screen, their
sense of humor, and having to cope with mine. Many other coworkers at the GRIS helped
me to broaden my horizon with regard to science, the academic world, and through interest-
ing and enjoyable common conference trips. To name only some of them, I would like to
thank Andreas Schilling, Ralf Sondershaus, Peter Biber, Sven Fleck, Dirk Staneker, Michael
Keckeisen, Markus Wacker, Michael Wand, Philipp Jenke, Urs Kanus, Gregor Wetekam, Jo-
¨hannes Mezger, Stefan Guthe, Michael Hauth, Johannes Gorke, Stefan Gumhold, and Jo-Hirche. Ofcourse,anyscientificachievementwouldbeimpossiblewithoutthesupport
and organization skills of the secretaries, who are often appropriately regarded as the persons
who actually run the department. I would therefore like to acknowledge Constanze Christ,
Adelheid Ebert, and Bernadette Graus for dealing with my constant requests for money for
webcamsandconferencevisits,andformaking(almost)allofitpossible.
Several students contributed to the implementation of some of the concepts presented in
this thesis. Melissa Mekic,´ Christine Schaller, Martin Kobele,¨ and Michael Eichler not only
delivered very good student and Master theses, but advising them was also a gratifying and
funexperience.
Finally,Iwouldalsoliketothanktheacademicandindustrialcollaboratorswhohelpedto
achievetheresultspresentedinthisthesis. AsclinicalpartnersintheVIRTUEresearchproject,
Jur¨ genHoffmann,CarstenWestendorff,FrankDuffner,DirkFreudenstein,andMarcosTatag-
¨ibafromtheUniversityHospitalTubingenprovidedguidancewithregardtopotentialmedical
applicationsofthenewlydevelopedtechniques. ThepeopleattheBrainLABcompanyhelped
withthetechnicalaspectsofaccessingtheinternaldataoftheirimageguidedsurgerysystem,
and especially the very friendly support of Markus Neff, Ulrich Seifert, and Sven Flossmann
deserves to be mentioned. A very interesting line of research was opened by the fruitful ex-
change of ideas with Douglas Cunningham and Christian Wallraven (Max-Planck-Institute of
Biological Cybernetics), and their support during the psychopysical study described here was
verymuchappreciated.
This thesis was funded by the research grant VIRTUE in the focus program on ”Medical
NavigationandRobotics”(SPP1124)oftheGermanResearchFoundation(DFG).CONTENTS
1 Introduction 1
1.1 AugmentedReality ............................... 1
1.2 RenderingMethodsforAugmentedReality .................. 3
1.3 OverviewandContributions .......................... 5
2 MedicalAugmentedReality 7
2.1 ARforMedicalDiagnosticsandTherapy ................... 7
2.1.1 Application Case: Intervention Planning for Orbital Reconstruction
Surgery................................. 9
2.2 RelatedWork.................................. 1
2.2.1 DrawbacksofPreviousSystemsforMedicalAugmentedReality . . . 12
2.3 AugmentedRealitybasedonImageGuidedSurgery.............. 13
2.3.1 VectorVisionandtheVectorVisionLinklibrary ............ 14
2.3.2 CameraTrackingintheARGUSSystem ............... 15
2.3.3 AdditionalSupportbytheIGSSystem................. 19
2.3.4 OverlayofGraphicalInformationwithARGUS 20
2.4 Model-basedHybridTrackingforMedicalAR ................ 24
2.4.1 RelatedWorkonHybridTrackinginAR 25
2.4.2 OverviewoftheHybridTrackingMethod ............... 25
2.4.3 DescriptionoftheAlgorithm ...................... 27
2.4.4 Results ................................. 33
2.4.5 Discussion ............................... 35
2.5 UserInteractionintheARGUSSystem .................... 36
2.5.1 TheNewUserInteractionMethod................... 37
2.5.2 ExampleApplication: OperationPlanDrawings . . ......... 41
2.6 OcclusionHandling 43
2.6.1 RelatedWorkonOcclusionHandlinginAugmentedReality ..... 45
2.6.2 StaticOcclusionHandlingbasedonVolumetricDatasets ....... 46
2.6.3 OcclusionHandlingResults ...................... 51
2.6.4 Discussion ............................... 56
viiviii CONTENTS
2.7 Summary .................................... 56
3 StylizedAugmentedReality 59
3.1 Introduction ................................... 59
3.1.1 RelatedWork.............................. 61
3.2 Cartoon-likeStylizationofARImages..................... 63
3.2.1 StylizationFilterfortheCameraImage . . .............. 64
3.2.2 Cartoon-likeRenderingMethodforVirtualObjects.......... 68
3.2.3 Results ................................. 71
3.3 StylizationofARVideoStreamsontheGPU ................. 75
3.3.1 AlgorithmOverview .......................... 76
3.3.2 GenerationofSimplifiedColorImage 77
3.3.3 AdaptiveEdgeDetection........................ 79
3.3.4 ImplementationDetails......................... 81
3.3.5 Results 84
3.4 BrushStrokeStylizationofARImages..................... 89
3.4.1 OverviewoftheBrushStrokeSystem ................. 90
3.4.2 BrushStrokeFilterforCameraImage 91
3.4.3 BrushStrokeRendererforVirtualObjects . .............. 93
3.4.4 Results ................................. 96
3.5 StudyonStylizedAugmentedReality 98
3.5.1 RelatedWork.............................. 9
3.5.2 ExperimentalMethodology ......................100
3.5.3 Results103
3.5.4 Conclusion ...............................105
3.6 Summary ....................................106
3.6.1 TechnicalAspects ...........................106
3.6.2 PotentialApplicationsandFutureWork . . ..............107
4 IllustrativeVisualization 109
4.1 Introduction ...................................109
4.1.1 OverviewoftheNewIllustrativeRenderingMethod .........109
4.1.2 RelatedWork..............................11
4.2 IllustrativeDisplayofHiddenStructures....................112
4.2.1 Iso-SurfaceRenderingPasses .....................113
4.2.2 OptionalRenderingofSecondaryGeometry ..............115
4.2.3 ImageProcessingStage ........................116
4.2.4 ImplementationDetails.........................120
4.2.5 Results .................................121
4.3 IllustrativeAugmentedReality124
4.3.1 DescriptionoftheIllustrativeARSystem . ..............124
4.3.2 Results127
4.4 Summary ....................................129
5 ConclusionsandFutureWork 131
5.1 Conclusions ...................................131
5.2 FutureDirectionsofResearch .........................133
AuthoredandCo-AuthoredPublications 135CONTENTS ix
Bibliography 139
Appendix 153
AppendixA:TheVirtueFramework 153
A.1 OverviewoftheVirtueRepository . ......................153
A.2 VirtueSceneGraphExample ..........................154
A.3 ARGUSApplication .........................157
AppendixB:CodingConventions 161
B.1 Introduction ...................................161
B.2 TheOriginalVirtueStyleguide161x CONTENTS

Soyez le premier à déposer un commentaire !

17/1000 caractères maximum.