Maschinelles Lernen wurde verwendet, um längst vergessene Sprachen automatisch zu übersetzen

Altgriechisch in Stein gemeißelt Don Lloyd | Flickr

Im Jahr 1886 stieß der britische Archäologe Arthur Evans auf einen alten Stein mit merkwürdigen Inschriften in einer unbekannten Sprache. Der Stein kam von der Mittelmeerinsel Kreta, und Evans reiste sofort dorthin, um nach weiteren Beweisen zu suchen. Er fand schnell zahlreiche Steine ​​und Tafeln mit ähnlichen Schriften und datierte sie auf etwa 1400 v.

Das machte die Inschrift zu einer der frühesten je entdeckten Schriftformen. Evans argumentierte, dass seine lineare Form eindeutig von grob zerkratzten Linienbildern aus den Kinderschuhen der Kunst abgeleitet wurde, wodurch seine Bedeutung in der Geschichte der Linguistik begründet wurde.

Er und andere stellten später fest, dass die Steine ​​und Tafeln in zwei verschiedenen Schriften geschrieben waren. Die älteste, genannt Linear A, stammt aus der Zeit zwischen 1800 und 1400 v. Chr., als die Insel von der minoischen Zivilisation der Bronzezeit beherrscht wurde.

Die andere Schrift, Linear B, ist neueren Datums und erscheint erst nach 1400 v. Chr., als die Insel von Mykenern vom griechischen Festland erobert wurde.

Evans und andere versuchten viele Jahre, die alten Schriften zu entziffern, aber die verlorenen Sprachen widerstanden allen Versuchen. Das Problem blieb bis 1953 ungelöst, als ein Amateurlinguist namens Michael Ventris den Code für Linear B knackte.

Seine Lösung basierte auf zwei entscheidenden Durchbrüchen. Erstens vermutete Ventris, dass viele der wiederholten Wörter im Vokabular von Linear B Namen von Orten auf der Insel Kreta waren. Das hat sich als richtig herausgestellt.

Sein zweiter Durchbruch war die Annahme, dass die Schrift eine frühe Form des Altgriechischen aufzeichnete. Diese Einsicht erlaubte ihm sofort, den Rest der Sprache zu entziffern. Dabei zeigte Ventris, dass Altgriechisch viele Jahrhunderte früher als bisher angenommen erstmals in schriftlicher Form auftauchte.

Ventris‘ Arbeit war eine große Leistung. Aber die ältere Schrift, Linear A, ist bis heute eines der großen offenen Probleme der Linguistik geblieben.

Es ist nicht schwer vorstellbar, dass die jüngsten Fortschritte in der maschinellen Übersetzung hilfreich sein könnten. In nur wenigen Jahren wurde das Studium der Linguistik durch die Verfügbarkeit riesiger annotierter Datenbanken und Techniken, um Maschinen dazu zu bringen, daraus zu lernen, revolutioniert. Folglich ist die maschinelle Übersetzung von einer Sprache in eine andere zur Routine geworden. Und obwohl es nicht perfekt ist, haben diese Methoden eine völlig neue Art eröffnet, über Sprache nachzudenken.

Da wären Jiaming Luo und Regina Barzilay vom MIT und Yuan Cao vom KI-Labor von Google in Mountain View, Kalifornien. Dieses Team hat ein maschinelles Lernsystem entwickelt, das in der Lage ist, verlorene Sprachen zu entschlüsseln, und sie haben es demonstriert, indem sie Linear B entschlüsseln ließen – das erste Mal, dass dies automatisch geschah. Der verwendete Ansatz unterschied sich stark von den üblichen maschinellen Übersetzungstechniken.

Zuerst etwas Hintergrund. Die große Idee hinter der maschinellen Übersetzung ist das Verständnis, dass Wörter unabhängig von der beteiligten Sprache auf ähnliche Weise miteinander verwandt sind.

Der Prozess beginnt also damit, diese Beziehungen für eine bestimmte Sprache abzubilden. Dies erfordert riesige Textdatenbanken. Eine Maschine durchsucht dann diesen Text, um zu sehen, wie oft jedes Wort neben jedem anderen Wort vorkommt. Dieses Erscheinungsmuster ist eine einzigartige Signatur, die das Wort in einem mehrdimensionalen Parameterraum definiert. Tatsächlich kann man sich das Wort als Vektor innerhalb dieses Raums vorstellen. Und dieser Vektor wirkt als starke Einschränkung dafür, wie das Wort in jeder Übersetzung erscheinen kann, die die Maschine liefert.

Diese Vektoren gehorchen einigen einfachen mathematischen Regeln. Zum Beispiel: König – Mann + Frau = Königin. Und einen Satz kann man sich als eine Reihe von Vektoren vorstellen, die einer nach dem anderen folgen, um eine Art Bahn durch diesen Raum zu bilden.

Die wichtigste Erkenntnis, die die maschinelle Übersetzung ermöglicht, ist, dass Wörter in verschiedenen Sprachen die gleichen Punkte in ihren jeweiligen Parameterräumen einnehmen. Dadurch ist es möglich, eine ganze Sprache in einer Eins-zu-Eins-Entsprechung auf eine andere Sprache abzubilden.

Auf diese Weise wird der Prozess des Übersetzens von Sätzen zum Prozess des Findens ähnlicher Trajektorien durch diese Räume. Die Maschine muss nicht einmal wissen, was die Sätze bedeuten.

Dieser Prozess ist entscheidend auf die großen Datensätze angewiesen. Aber vor ein paar Jahren zeigte ein deutsches Forscherteam, wie ein ähnlicher Ansatz mit viel kleineren Datenbanken dazu beitragen könnte, viel seltenere Sprachen zu übersetzen, denen die großen Textdatenbanken fehlen. Der Trick besteht darin, einen anderen Weg zu finden, um den maschinellen Ansatz einzuschränken, der sich nicht auf die Datenbank stützt.

Jetzt sind Luo und Co. noch einen Schritt weiter gegangen, um zu zeigen, wie die maschinelle Übersetzung vollständig verloren gegangene Sprachen entschlüsseln kann. Die Einschränkung, die sie verwenden, hat damit zu tun, wie sich Sprachen bekanntermaßen im Laufe der Zeit entwickeln.

Die Idee ist, dass sich jede Sprache nur auf bestimmte Weise ändern kann – zum Beispiel erscheinen die Symbole in verwandten Sprachen mit ähnlichen Verteilungen, verwandte Wörter haben dieselbe Zeichenreihenfolge und so weiter. Mit diesen Regeln, die die Maschine einschränken, wird es viel einfacher, eine Sprache zu entschlüsseln, vorausgesetzt, die Vorläufersprache ist bekannt.

Luo und Co haben die Technik mit zwei verlorenen Sprachen, Linear B und Ugaritic, auf die Probe gestellt. Linguisten wissen, dass Linear B eine frühe Version des Altgriechischen kodiert und dass das 1929 entdeckte Ugaritische eine frühe Form des Hebräischen ist.

Angesichts dieser Informationen und der durch die sprachliche Evolution auferlegten Einschränkungen ist die Maschine von Luo und Co. in der Lage, beide Sprachen mit bemerkenswerter Genauigkeit zu übersetzen. Wir waren in der Lage, 67,3 % der linearen B-Verwandten im Entschlüsselungsszenario korrekt in ihre griechischen Entsprechungen zu übersetzen, sagen sie. Nach unserem besten Wissen ist unser Experiment der erste Versuch, Linear B automatisch zu entschlüsseln.

Das ist eine beeindruckende Arbeit, die die maschinelle Übersetzung auf eine neue Ebene hebt. Aber es wirft auch die interessante Frage nach anderen verlorenen Sprachen auf – insbesondere solchen, die nie entziffert wurden, wie Linear A.

In dieser Arbeit fällt Linear A durch seine Abwesenheit auf. Luo und Co erwähnen es nicht einmal, aber es muss in ihrem Denken eine große Rolle spielen, wie es bei allen Linguisten der Fall ist. Es sind jedoch noch bedeutende Durchbrüche erforderlich, bevor dieses Skript für die maschinelle Übersetzung zugänglich wird.

Zum Beispiel weiß niemand, welche Sprache Linear A kodiert. Alle Versuche, es ins Altgriechische zu entziffern, sind gescheitert. Und ohne die Vorläufersprache funktioniert die neue Technik nicht.

Der große Vorteil maschineller Ansätze ist aber, dass sie schnell und ermüdungsfrei eine Sprache nach der anderen testen können. Es ist also durchaus möglich, dass Luo und Co Linear A mit einem Brute-Force-Ansatz angehen – versuchen Sie einfach, es in jede Sprache zu entschlüsseln, für die bereits maschinelle Übersetzungen funktionieren.

Wenn das funktioniert, wird es eine beeindruckende Leistung, über die sogar Michael Ventris staunen würde.

Ref: arxiv.org/abs/1906.06718 : Neuronale Entschlüsselung über Minimum-Cost-Flow: von Ugaritic zu Linear B

verbergen