Feature selection and information fusion in hierarchical neural networks for iterative 3D-object recognition [Elektronische Ressource] / vorgelegt von Rebecca Fay

Sujets

• Informatik

Informations

• Publié par: universitat_ulm
• Publié le: 01 janvier 2007
• Nombre de lectures: 20
• Langue: Deutsch
• Poids de l'ouvrage: 8 Mo

Extrait

Universit¨at Ulm
Fakult¨at fur¨ Ingenieurwissenschaften
und Informatik
Institut fur¨ Neuroinformatik
Direktor: Prof. Dr. Gun¨ ther Palm
Feature Selection and Information Fusion
in Hierarchical Neural Networks
for Iterative 3D-Object Recognition
Dissertation zur Erlangung des Doktorgrades
Doktor der Naturwissenschaften (Dr. rer. nat.)
der Fakult¨at fur¨ Ingenieurwissenschaften und Informatik
der Universit¨at Ulm
vorgelegt von
Rebecca Fay
aus Lich
Ulm 2007Amtierender Dekan der Fakult at fur Ingenieurwissenschaften und Informatik:
Prof. Dr. Helmut Partsch
Gutachter: Prof. Dr. Gun ther Palmhter: Prof. Dr. Heiko Neumann
Gutachter: Prof. Dr. Friedrich W. von Henke
Tag der Promotion: 20. Juli 2007to my family
iZusammenfassung
Die zuverl¨assige Erkennung von dreidimensionalen Objekten anhand von zweidi-
mensionalen Kamerabildern stellt immer noch ein großes Problem der Bildver-
arbeitung sowie der kunstlic¨ hen Intelligenz dar. Hierfur¨ existiert eine Vielzahl
von Ans¨atzen, die jedoch im Allgemeinen weder die grundlegende hierarchische
Natur von Klassifikationsproblemen ausnutzen noch das Hinzulernen neuer Ob-
jekte w¨ahrend der Erkundungsphase erm¨oglichen.
BeiObjekterkennungsaufgabenhandeltessichimAllgemeinenumMulti-Klassen-
probleme, bei der die Anzahl der Klassen deutlich gr¨oßer als zwei ist. Diese
Arbeit bietet einen neuen Ansatz fur¨ die L¨osung derartiger Probleme, indem die
komplexeAufgabeinmehrerehierarchischangeordneteTeilproblemezerlegtwird,
die einfacher zu l¨osen sind.
Die vorliegende Arbeit behandelt mehrere Aspekte der Objekterkennung mit hie-
rarchischen neuronalen Netzen:
1. Generierung geeigneter Klassifikatorhierarchien
2. Auswertung dieser Hierarchien (Informationsfusion)
3. Auswahl geeigneter Merkmale fur¨ die Klassifikation
4. Erweiterbarkeit / Adaptivit¨at der Hierarchien
5. Generierung ahnlic¨ hkeitserhaltender sp¨arlicher Binarcodes
Die Auswahl geeigneter Merkmalstypen fur¨ die Klassifikation von Objekten un-
terschiedlicher Dom¨anen ist ein wichtiger Aspekt bei der 3D-Objekterkennung.
Im Rahmen dieser Arbeit wurden unterschiedlichste Merkmalstypen verwendet
und bewertet.
Fur¨ die Auswertung der Klassifikatorhierarchien wurden verschiedene Ans¨atze
entwickelt und evaluiert. Als die vielversprechendsten Ans¨atze erwiesen sich
iiidie Evaluation analog zu Entscheidungsb¨aumen, die Evaluation mit Hilfe der
Dempster-Shafer Evidenztheorie sowie die Evaluation mit Hilfe von ¨ahnlichkeit-
serhaltenden Codes bzw. Inter-State Decision Templates.
Die Generierung ahnlic¨ hkeitserhaltender sp¨arlicher Bin¨arcodes stellt einen zu-
s¨atzlichen Aspekt bei der Objekterkennung mit Klassifikatorhierarchien dar. Im
Rahmen dieser Arbeit wurden unterschiedliche Strategien fur¨ die Generierung
solcher Codes basierend auf den Aktivierungen der neuronalen Klassifikatoren
innerhalb der Hierarchie entwickelt und ausgewertet.
Einen weiteren Schwerpunkt bildet das inkrementelle Hinzulernen von bisher un-
bekannten Objekten. Dies ist in komplexeren Realwelt-Umgebungen oft wun-¨
schenswert, da die Wahrscheinlichkeit, mit bislang unbekannten Objekten kon-
frontiert zu werden, relativ hoch ist. Im Rahmen dieser Arbeit wurde ein Ver-
fahren entwickelt, welches es erm¨oglicht, nachtr¨aglich neue Objekte effizient zu
lernen, ohne jedoch die Erkennungsleistung zuvor gelernter Objekte negativ zu
beeinflussen.
Die Funktionalit¨at des Ansatzes konnte in statistischen Experimenten auf un-
terschiedlichsten Datens¨atzen sowie durch die Anwendung auf einem autonomen
mobilen Roboter best¨atigt werden.
ivAbstract
The reliable recognition of three-dimensional objects from two-dimensional cam-
era images is still a major problem in computer vision and artificial intelligence.
For this problem exist numerous approaches which in general neither incorporate
the inherent hierarchical nature of classification problems nor offer the possibility
to learn new objects during the exploration phase.
Object recognitions tasks are in general multi-class problems where the number
of classes is considerably higher than two. This work offers a novel approach for
solving such problems by dividing the complex task into several hierarchically
structured sub-problems that are easier to solve.
The work at hand covers several aspects of object recognition with hierarchical
neural networks:
1. Generation of appropriate classifier hierarchies
2. Evaluation of these hierarchies (information fusion)
3. Selection of suitable features for the classification
4. Extensibility / adaptivity of the hierarchies
5. Generation of similarity preserving sparse binary codes
Theselectionofsuitablefeaturetypesfortheclassificationofobjectsfromvarious
domains is an important aspect for the recognition of three-dimensional objects.
In the context of this work diverse feature types were deployed and evaluated.
Different strategies for the retrieval of the combined classification result from
the classifier hierarchies were developed and evaluated. The most promising ap-
proaches were the retrieval strategy similar to decision trees, the retrieval strat-
egyutilisingtheDempster-Shaferevidencetheoryaswellastheretrievalstrategy
utilising similarity preserving codes and inter-state decision templates.
vThegenerationofsimilaritypreservingsparsebinarycodesisanadditionalaspect
of the object recognition with hierarchical neural network classifiers. Within the
scope of this work several strategies for the generation of such codes based on
the activation of the neural classifiers within the hierarchy were developed and
evaluated.
Anotherfocuswastheincrementallearningofhithertounknownobjects. Incom-
plex real-world environments this is a often desirable capability as the confronta-
tion with so far unfamiliar objects is very likely. Within the scope of this work
a method for subsequently learning new objects in an efficient manner without
negatively influencing the classification performance of previously learnt objects.
The functionality of the approach could be confirmed by means of statistical ex-
perimentsonvariousdatasetsaswellasbytheimplementationonanautonomous
mobile robot.
vi