В сетевом пакете MiKTeX1.20е догенерированы русские форматные файлы cyramstx.fmt и cyrtex.fmt (не с первой попытки).

Обновите базы данных!

Командная строка для вызова русского AMSTEXа:
tex &cyramstx имя файла.

Командная строка для вызова русского TEXа:
tex &cyrtex имя файла.

Чтобы самостоятельно догенерировать русские форматные файлы необходимо:
1. Скачать с CTAN пакет cyrplain.
Можно взять здесь cyrplain.zip
(Cyrplain для ранних версий MiKTeX (1.11, 1.20a) не годится).
2. Разместить в ...MiKTeX20e\tex\plain\cyrplain.
3. Обновить локальные базы, выполнив команду initexmf --update -fndb.
4. Перейти в ...\locmf20e\MiKTeX\fmt.
5. Выберите кодировку по умолчанию, подкорректировав строку \def\definpenc{koi8} файла cyrtex.cfg пакета cyrplain.
6. Сгенерировать форматные файлы:
tex --ini cyrplain.ini \dump
tex --ini cyramstx.ini \dump
7. Снова обновить локальные базы, выполнив команду initexmf --update -fndb.

В сетевой версии пакета по умолчанию выбрана кодировка cp866.
Читайте README пакета!