La traducció automàtica estadística (TMS) és un enfocament de traducció automàtica en què les traduccions es generen a partir de models estadístics els paràmetres dels quals es deriven de l'anàlisi de corpus de text bilingües. L'enfocament estadístic contrasta amb els enfocaments basats en regles per a la traducció automàtica, així com amb la traducció automàtica basada en exemples, que va substituir l'enfocament anterior basat en regles que requeria una descripció explícita de totes i cadascuna de les regles lingüístiques, que era costós i que sovint no es generalitzava a altres idiomes.
Les primeres idees de traducció automàtica estadística van ser introduïdes per Warren Weaver el 1949,W. Weaver (1955). Translation (1949). In: Machine Translation of Languages, MIT Press, Cambridge, MA. incloent-hi les idees d'aplicació de la teoria de la informació de Claude Shannon. La traducció automàtica estadística va ser reintroduïda a finals dels anys vuitanta i principis dels noranta per investigadors del Thomas J. Watson Research Center d'IBM. Abans de la introducció de la traducció automàtica neuronal, era, amb diferència, el mètode de traducció automàtica més estudiat.
Base La idea darrere de la traducció automàtica estadística prové de la teoria de la informació. Un document es tradueix segons la distribució de probabilitat que una corda en l'idioma de destinació (per exemple, l'anglès) és la traducció d'una cadena en la llengua d'origen (per exemple, el francès).
El problema de modelar la distribució de probabilitat s'ha abordat de diverses maneres. Un enfocament que es presta bé a la implementació informàtica és aplicar el teorema de Bayes, és a dir , on el model de traducció és la probabilitat que la cadena d'origen sigui la traducció de la cadena de destinació, i el model de llenguatge és la probabilitat de veure aquesta cadena de text de l'idioma de destinació. Aquesta descomposició és atractiva, ja que divideix el problema en dos subproblemes. Trobar la millor traducció es fa triant la que dóna la probabilitat més alta:
Per a una implementació rigorosa d'això, caldria dur a terme una cerca exhaustiva revisant totes les cadenes de text. en la llengua materna. Realitzar la cerca de manera eficient és la feina d'un descodificador de traducció automàtica que utilitza la cadena estrangera, heurística i altres mètodes per limitar l'espai de cerca i, alhora, mantenir una qualitat acceptable. Aquest compromís entre qualitat i ús del temps també es pot trobar en el reconeixement de veu.
Com que els sistemes de traducció no poden emmagatzemar totes les cadenes natives i les seves traduccions, un document normalment es tradueix frase per frase. Els models de llenguatge s'aproximen normalment mitjançant models de n-grames suavitzats, i s'han aplicat enfocaments similars als models de traducció, però això introdueix una complexitat addicional a causa de les diferents longituds de les frases i ordres de les paraules en els idiomes.
Els models de traducció estadística es basaven inicialment en paraules (Models 1-5 del model ocult de Markov d'IBM de Stephan VogelS. Vogel, H. Ney and C. Tillmann. 1996. HMM-based Word Alignment in Statistical Translation. In COLING ’96: The 16th International Conference on Computational Linguistics, p. 836-841, Copenhagen, Denmark. i Model 6 de Franz-Joseph Och), però es van fer avenços significatius amb la introducció de models basats en frases.P. Koehn, F.J. Och, and D. Marcu (2003). Statistical phrase based translation. In Proceedings of the Joint Conference on Human Language Technologies and the Annual Meeting of the North American Chapter of the Association of Computational Linguistics (HLT/NAACL). Treballs posteriors van incorporar sintaxi o estructures quasisintàctiques.D. Chiang (2005). A Hierarchical Phrase-Based Model for Statistical Machine Translation. In Proceedings of the 43rd Annual Meeting of the Association for Computational Linguistics (ACL'05).
Beneficis El més citat Els avantatges de la traducció automàtica estadística (SMT) respecte a l'enfocament basat en regles són:
Ús més eficient dels recursos humans i de dades Hi ha molts corpus paral·lels en format llegible per màquina i fins i tot més dades monolingües. Generalment, els sistemes SMT no estan adaptats a cap parell d'idiomes específic. Traduccions més fluides gràcies a l'ús d'un model lingüístic
Deficiències La creació de corpus pot ser costosa. Els errors específics són difícils de predir i corregir. Els resultats poden tenir una fluïdesa superficial que emmascara problemes de traducció. La traducció automàtica estadística normalment funciona menys bé per a parells d'idiomes amb un ordre de paraules significativament diferent. Els beneficis obtinguts per a la traducció entre llengües de l'Europa occidental no són representatius dels resultats per a altres parells de llengües, a causa de corpus d'entrenament més petits i majors diferències gramaticals.
Traducció basada en paraules En la traducció basada en paraules, la unitat fonamental de traducció és una paraula en alguna llengua natural. Normalment, el nombre de paraules en les frases traduïdes és diferent, a causa de les paraules compostes, la morfologia i els modismes. La relació entre les longituds de les seqüències de paraules traduïdes s'anomena fertilitat, que indica quantes paraules estrangeres produeix cada paraula nativa. Necessàriament, la teoria de la informació assumeix que cadascuna cobreix el mateix concepte. A la pràctica, això no és realment cert. Per exemple, la paraula anglesa corner es pot traduir al castellà per rincón o esquina, depenent de si ha de significar el seu angle intern o extern.
La traducció simple basada en paraules no pot traduir entre llengües amb diferent fertilitat. Els sistemes de traducció basats en paraules es poden fer servir de manera relativament senzilla per fer front a una alta fertilitat, de manera que puguin assignar una sola paraula a diverses paraules, però no a l'inrevés.. Per exemple, si traduíssim de l'anglès al francès, cada paraula en anglès podria produir qualsevol nombre de paraules franceses — de vegades cap. Però no hi ha manera d'agrupar dues paraules angleses per produir una sola paraula francesa.
Un exemple d'un sistema de traducció basat en paraules és el paquet GIZA++ (GPLed), disponible gratuïtament, que inclou el programa d'entrenament per a models IBM i HMM, i Model 6.
La traducció basada en paraules no s'utilitza gaire avui dia; els sistemes basats en frases són més comuns. La majoria dels sistemes basats en frases encara utilitzen GIZA++ per alinear el corpus.. Els alineaments s'utilitzen per extreure frases o deduir regles sintàctiques.P. Koehn, H. Hoang, A. Birch, C. Callison-Burch, M. Federico, N. Bertoldi, B. Cowan, W. Shen, C. Moran, R. Zens, C. Dyer, O. Bojar, A. Constantin, E. Herbst. 2007. Moses: Open Source Toolkit for Statistical Machine Translation. ACL 2007, Demonstration Session, Prague, Czech Republic I la coincidència de paraules en bitext continua sent un problema que es debat activament a la comunitat. A causa del predomini de GIZA++, ara hi ha diverses implementacions distribuïdes en línia.Q. Gao, S. Vogel, "Parallel Implementations of Word Alignment Tool", Software Engineering, Testing, and Quality Assurance for Natural Language Processing, p. 49-57, June, 2008
Traducció basada en frases En la traducció basada en frases, l'objectiu és reduir les restriccions de la traducció basada en paraules traduint seqüències completes de paraules, on les longituds poden variar. Les seqüències de paraules s'anomenen blocs o frases. Normalment no són frases lingüístiques, sinó frasemes que es van trobar mitjançant mètodes estadístics a partir de corpus. S'ha demostrat que restringir les frases a frases lingüístiques (grups de paraules motivats sintàcticament, vegeu categories sintàctiques) disminuïa la qualitat de la traducció.Philipp Koehn, Franz Josef Och, Daniel Marcu: Statistical Phrase-Based Translation (2003)
Les frases escollides es mapegen una a una basant-se en una taula de traducció de frases i es poden reordenar. Aquesta taula es pot aprendre basant-se en l'alineació de paraules o directament d'un corpus paral·lel. El segon model s'entrena mitjançant l'algorisme de maximització de l'expectativa, de manera similar al model IBM basat en paraules.
Traducció basada en la sintaxi La traducció basada en la sintaxi es basa en la idea de traduir unitats sintàctiques, en lloc de paraules individuals o cadenes de paraules (com en la traducció automàtica basada en frases), és a dir, arbres d'anàlisi sintàctica (parcial) d'oracions/enunciats. Fins a la dècada de 1990, amb l'arribada d' analitzadors estocàstics forts, la contrapart estadística de l'antiga idea de traducció basada en la sintaxi no va tenir èxit. Exemples d'aquest enfocament inclouen la traducció automàtica basada en DOP i, posteriorment, les gramàtiques lliures de context síncrones.
Traducció jeràrquica basada en frases La traducció jeràrquica basada en frases combina els enfocaments de traducció basats en frases i basats en la sintaxi. Utilitza regles gramaticals síncrones sense context, però les gramàtiques es poden construir mitjançant una extensió dels mètodes de traducció basada en frases sense fer referència a constituents sintàctics motivats lingüísticament. Aquesta idea es va introduir per primera vegada al sistema Hiero de Chiang (2005).D. Chiang (2005). A Hierarchical Phrase-Based Model for Statistical Machine Translation. In Proceedings of the 43rd Annual Meeting of the Association for Computational Linguistics (ACL'05).
Models lingüístics Un model lingüístic és un component essencial de qualsevol sistema de traducció automàtica estadística, que ajuda a fer que la traducció sigui el més fluïda possible. És una funció que pren una frase traduïda i retorna la probabilitat que la digui un parlant nadiu. Un bon model lingüístic, per exemple, assignarà una probabilitat més alta a la frase "la casa és petita" que a "petita la casa és". A més de l'ordre de les paraules, els models lingüístics també poden ajudar amb l'elecció de paraules: si una paraula estrangera té diverses traduccions possibles, aquestes funcions poden donar millors probabilitats per a certes traduccions en contextos específics de la llengua de destinació.
Sistemes que implementen la traducció automàtica estadística Google Translate (va iniciar la transició a la traducció automàtica neuronal el 2016)
Microsoft Translator (va començar la transició a la traducció automàtica neuronal el 2016)
Yandex.Translate (va canviar a un enfocament híbrid que incorpora la traducció automàtica neuronal el 2017)
Reptes de la traducció automàtica estadística Els problemes amb la traducció automàtica estadística inclouen:
Alineació de frases Les frases individuals en una llengua es poden trobar traduïdes en diverses frases en l'altra i viceversa. Les frases llargues es poden dividir, mentre que les frases curtes es poden fusionar. Fins i tot hi ha idiomes que utilitzen sistemes d'escriptura sense una indicació clara del final de la frase, com ara el tailandès. L'alineació de frases es pot realitzar mitjançant l'algorisme d'alineació de Gale-Church. La cerca i recuperació eficients de l'alineació de frases amb la puntuació més alta és possible mitjançant aquest i altres models matemàtics.
Alineació de paraules L'alineació de les frases normalment la proporciona el corpus o l'obté l'algorisme d'alineació de Gale-Church esmentat anteriorment. Tanmateix, per aprendre, per exemple, el model de traducció, necessitem saber quines paraules s'alineen en un parell de frases font-destí. Els models IBM o l'enfocament HMM van ser intents de resoldre aquest repte.