Словарь БСЭ
Метатеория — (от мета... и теория) - изучает структурные, дедуктивные,семантические и пр. свойства какой-либо другой (предметной) теории,представленной обычно в виде формальной системы или исчисления.
Математическая энциклопедия
МЕТАТЕОРИЯ — - совокупность математич. средств и методов, предназначенных для описания и определения нек-рой формальной аксиоматич. теории, а также для исследования ее свойств. М.... подробнее
см. также морфологический разбор слова "метатеория".