Het automatisch vertalen van teksten vereist systemen met gedetailleerde taalkundige kennis. Een tweetalig woordenboek is bij lange na niet genoeg. Wanneer een Nederlandse zin, zoals deze, bijvoorbeeld woord voor woord in het Engels wordt vertaald levert dit in verreweg de meeste gevallen geen grammaticale Engelse zin op. De woordvolgorde van het Nederlands is anders dan die van het Engels. Bovendien zijn er woorden (zoals bijvoorbeeld voorzetsels), die niet vertaald kunnen worden zonder ook te kijken naar de manier waarop ze zijn gebruikt in een zin.
Om dergelijke problemen op te lossen maken de meeste systemen voor automatisch vertalen gebruik van de methode die wordt geschetst in figuur 7. In de tweede stap vindt een proces plaats dat nog het meest lijkt op het eigenlijke vertalen van een zin. De woorden uit de originele zin worden hier bijvoorbeeld vervangen door woorden uit de taal waar we naar toe vertalen. De nadelen van woord voor woord vertalen worden hier ondervangen doordat boomstructuren iets vertellen over de manier waarop woorden in een zin gebruikt worden, en de vertaling van een woord dus kan variëren afhankelijk van de rol van dit woord in een zin. Ook kan in de ``vertaalde'' structuur de volgorde van woorden en zinsdelen verschillen van die in de originele structuur.
Merk op dat het vertalen van teksten met behulp van deze methode twee grammatica's vereist (één voor het origineel en één voor de vertaling) en bovendien nog een ``vertaalmodule'' die een structuur geproduceerd door de éne grammatica moet kunnen verbinden met een structuur in de andere grammatica. Al met al vereist het automatisch vertalen van teksten dus zeer veel taalkundige kennis.
Het verzamelen van voldoende taalkundige kennis in een systeem kan lastig zijn, maar de echte problemen voor automatisch vertalen liggen op een gebied dat slechts ten dele met taalkunde te maken heeft. Sommige vertaalproblemen (zie figuur 8) lijken te vereisen dat men een tekst niet alleen taalkundig analyseert, maar ook begrijpt. Het begrijpen van teksten vereist in het algemeen echter veel kennis die het domein van de taalkunde te buiten gaat.