В сетевых пакетах MiKTeX1.11 и MiKTeX1.20a сгенерированы русские форматные файлы cyramstx.fmt и cyrtex.fmt.

Обновите базы данных!

Командная строка для вызова русского AMSTEXа:
tex &cyramstx имя файла.

Командная строка для вызова русского TEXа:
tex &cyrtex имя файла.