TwT: Ragionamento Adattivo alla Difficoltà per la Traduzione Automatica Multi-Dominio
È stato presentato un nuovo approccio noto come Translation with Thought (TwT) per migliorare la traduzione automatica multi-dominio (MDMT) adattando gli sforzi di ragionamento in base alle complessità linguistiche. Ispirandosi ai traduttori umani, questa tecnica alterna tra ragionamento intuitivo e deliberato. TwT segue un processo di addestramento in due fasi: in primo luogo, prevede un fine-tuning supervisionato su tracce di catena di pensiero lunghe e sensibili alla difficoltà derivate da DeepSeek-R1 e riformulate da GPT-4o; in secondo luogo, impiega l'apprendimento per rinforzo con una ricompensa ibrida per affinare la qualità della traduzione e l'efficienza del ragionamento. Testato su 15 benchmark in contesti sia in-domain che out-of-domain, nonché su 3 lingue familiari e 59 non familiari, TwT-7B e TwT-14B superano i modelli di ragionamento state-of-the-art più grandi in termini di qualità di traduzione, riducendo al contempo l'utilizzo di token. La ricerca è disponibile su arXiv con ID 2607.29287.
Fatti principali
- 1. TwT (Translation with Thought) è un framework resource-rational per la traduzione automatica multi-dominio.
- 2. Adatta lo sforzo di ragionamento in base alla complessità linguistica, ispirandosi ai traduttori umani.
- 3. L'addestramento prevede un fine-tuning supervisionato su tracce di catena di pensiero lunghe e sensibili alla difficoltà derivate da DeepSeek-R1 e riscritte da GPT-4o.
- 4. L'apprendimento per rinforzo con una ricompensa ibrida ottimizza la qualità della traduzione e l'efficienza del ragionamento.
- 5. Valutato su 15 benchmark, inclusi contesti in-domain e out-of-domain.
- 6. Testato su 3 lingue viste e 59 non viste.
- 7. Sono state eseguite ablazioni su tre modelli backbone.
- 8. TwT-7B e TwT-14B superano i modelli di ragionamento SOTA più grandi in termini di qualità di traduzione, riducendo l'utilizzo di token.
Entità
Istituzioni
- arXiv
- DeepSeek
- OpenAI