Machine translation [Elektronische Ressource] : statistical approach with additional linguistic knowledge / vorgelegt von Maja Popović

Maja Popovic

Informations

• Publié par: rheinisch-westfalischen_technischen_hochschule_-rwth-_aachen
• Publié le: 01 janvier 2009
• Nombre de lectures: 33
• Langue: English

Extrait

Machine translation: statistical approach with additional
linguistic knowledge
Von der Fakultät für Mathematik, Informatik
und Naturwissenschaften der
RWTH Aachen University
zur Erlangung des akademischen Grades einer
Doktorin der Ingenieurwissenschaften genehmigte Dissertation
vorgelegt von
Diplom–Ingenieurin
Maja Popovic´
aus Belgrad, Serbien
Berichter: Universitätsprofessor Dr.-Ing. Hermann Ney
Professor Dr. Andy Way
Tag der mündlichen Prüfung: 30. April 2009
Diese Dissertation ist auf den Internetseiten der Hochschulbibliothek online verfügbar.Acknowledgments
I would like to express my gratitude to all the people who supported and accompanied me
during the preparation of this work.
First, I would like to express my gratitude to my advisor Professor Dr.-Ing. Hermann Ney,
head of the Lehrstuhl für Informatik 6 at the RWTH Aachen University. This thesis would not
have been possible without his advices and patience. I am very grateful that he gave me the
possibility to attend various conferences, workshops and meetings.
I would also like to thank Professor Dr. Andy Way from the School of Computing at the Du-
blin City University for agreeing to review this thesis, for his useful comments and suggestions,
and for his interest in this work.
ˇ ´I am also very grateful to Professor Dr.-Ing. Slobodan Jovicic from the Faculty of Electrical
Engineering at the University of Belgrade for all suggestions and advices.
Many thanks to all the people at the Lehrstuhl für Informatik 6 for the great working atmo-
sphere. Also many thanks for the great “non-working” atmosphere in “Café Bender”, in the
department excursions, the Christmas dinners, the “good movie” sessions as well the “bad mo-
vie” sessions, the strange Power-Point sessions, and of course the Card&Board Game sessions.
Furthermore, I would like to thank the secretaries and the system administrators for their conti-
nuous support. Special thanks to all those who helped me in writing this thesis by proofreading
it and adding missing articles. And special thanks to Nicola Ueffing, Franz Josef Och and Ralf
Schlüter for support and help at my beginnings in Aachen and at i6.
I would like to say “thanks a lot” to the people who worked with me in the field of morpho-
syntactic information and error analysis in the framework of the TC-STAR project: Adriá de
Gispert, Patrik Lambert and Deepa Gupta, as well as Rafael Banchs and Marcello Federico.
Many thanks to Necip Fazil Ayan for providing results of human error analysis for GALE texts.
To David, mi ludi zli informaticˇar: ¡Muchas gracias para todo! (incluido leer mi tesis en la
“1, 2, 3” y aguantar mi agresividad en las ultimas semanas ;-)
And to my mother Biljana and my sister Nikica: Znate sve! :-)
This thesis is based on work carried out during my time as a research scientist at the Lehrstuhl
für Informatik 6 at the RWTH Aachen University, Germany. The work was partially funded by
European Union under the integrated project TC-STAR – Technology and Corpora for Speech to
Speech Translation (IST-2002-FP6-506738), by the Deutsche Forschungsgemeinschaft (DFG)
under the project “Statistical Methods for Written Language Translation” (Ne572/5) and by the
Defense Advanced Research Project Agency (DARPA) under contract No. HR0011-06-C-0023
(GALE).Abstract
In this thesis, three possible aspects of using linguistic (i.e. morpho-syntactic) knowledge
for statistical machine translation are described: the treatment of syntactic differences between
source and target language using source POS tags, statistical machine translation with a small
amount of bilingual training data, and automatic error analysis of translation output.
Reorderings in the source language based on the POS tags are systematically investigated:
local reorderings of nouns and adjectives for the Spanish–English language pair and long-range
reorderings of verbs for the German–English language pair. Both types of reorderings result
in better performance of the translation system, local reordering being more important for the
scarce training corpora.
For such corpora, strategies for achieving an acceptable translation quality by applying ap-
propriate morpho-syntactic transformations are exploited for three language pairs: Spanish–
English, German–English and Serbian–English. Very scarce task-specific corpora as well as
conventional dictionaries are used as bilingual training material. In addition to conventional
dictionaries, the use of phrasal lexica is proposed and investigated.
A framework for automatic analysis and classification of actual errors in translation output
based on combining existing automatic evaluation measures with linguistic information is pre-
sented. Experiments on different types of corpora and various language pairs show that the
results of automatic error analysis correlate very well with the results of human evaluation. The
new metrics based on analysed error categories are used for comparison of different translation
systems trained on various sizes of texts with and without morpho-syntactic transformations.
For improving the quality of a statistical machine translation system by the use of morpho-
syntactic information, the choice of the method and the significance of improvements strongly
depend on the language pair, the translation direction and the nature of the corpus. Error analysis
of the translation output is important in order to define weak points of the system and apply
methods for improvement in the optimal way.Zusammenfassung
In dieser Arbeit werden drei Aspekte der Verwendung linguistischen (morpho-syntaktischen)
Wissens in der statistischen Übersetzung dargestellt: Behandlung der syntaktischen Unterschie-
de zwischen Quellsprache und Zielsprache unter Zuhilfenahme von POS-Informationen, statis-
tische Übersetzung bei geringen Mengen an Trainingdaten und automatische Fehleranalyse von
Übersetzungsergebnissen.
Umordnungen in der Quellsprache basierend auf POS-Information werden systematisch
untersucht: lokale Umordnungen von Nomen und Adjektiven für das Sprachpaar Spanisch-
Englisch sowie weiträumige Umordnungen von Verben für das Sprachpaar Deutsch-Englisch.
Beide Typen von Umordnungen führen zu verbesserter Übersetzungsqualität; die lokalen Um-
ordnungen stellen sich als besonderes hilfreich für die Übersetzung bei geringen Mengen an
bilingualen Trainingdaten heraus.
Für solche Übersetzungsysteme, wo nur geringe Mengen bilingualer Trainingsdaten verfüg-
bar sind, werden morpho-syntaktische Transformationen auf ihre Eignung untersucht, um eine
akzeptable Übersetzungsqualität zu erreichen. Systematische Experimenten werden auf drei
verschieden Sprachpaaren durchgeführt: Spanisch-Englisch, Deutsch-Englisch und Serbisch-
Englisch. Sehr kleinvolumige aufgabebezogene Daten, sowie konventionelle Wörterbücher,
werden als bilinguales Trainingsmaterial benutzt. Neben den Wörterbücher werden auch phra-
sale Lexika vorgeschlagen und untersucht.
Es wird ein Rahmenwerk für die automatische Analyse und Klassifizierung von Fehlern ba-
sierend auf verbreiteten Fehlermassen und auf linguistischem Wissen vorgestellt. Experimente
auf verschiedene Korpora und Sprachpaaren zeigen, dass die Ergebnisse der automatischen Feh-
leranalyse eine hohe Korelation mit den Ergebnissen menschlicher Fehleranalyse aufweisen.
Die neu eingeführten auf den analysierten Fehlerkategorien beruhenden Fehlerraten werden für
einen Vergleich verschiedener Übersetzungsysteme benutzt. Diese Systemen wurden zuvor auf
unterschiedlichen bilingualen Datenmengen trainiert, sowohl mit als auch ohne Verwendung
morpho-syntaktischer Transformationen.
Die Wahl der Methoden der Verwendung linguistischen Wissen zur Verbesserung eines sta-
tistischen Übersetzungsystems hängt ebenso wie die Signifikanz der dadurch erreichten Verbes-
serungen sehr vom zugrundeliegenden Sprachpaar, der Übersetzungsrichtung und der Art des
Korpus ab. Fehleranalyse erweist sich als wichtig, um die Schwächen eines Übersetzungssys-
tems zu entdecken und geeignete Methoden für eine optimale Verbesserung zu entwickeln.Contents
1 Introduction 1
1.1 Statistical machine translation and linguistic knowledge . . . . . . . . . . . . . 1
1.1.1 POS-based word reorderings . . . . . . . . . . . . . . . . . . . . . . . 2
1.1.2 Translation with scarce bilingual resources . . . . . . . . . . . . . . . 3
1.1.3 Automatic error analysis of translation output . . . . . . . . . . . . . . 4
1.2 Related work . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 Morphological and syntactic transformations for SMT . . . . . . . . . 4
1.2.1.1 Morphological transformations . . . . . . . . . . . . . . . . 5
1.2.1.2 POS-based word reorderings . . . . . . . . . . . . . . . . . 5
1.2.2 Translation with scarce bilingual resources . . . . . . . . . . . . . . . 6
1.2.3 Automatic error analysis of translation output . . . . . . . . . . . . . . 7
2 Scientific goals 9
3 Morpho-syntactic information 11
3.1 Basic concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.2 Analysis and annotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
4 POS-based word reorderings 15<