Сам Абдаллах не успел довести свое дело до конца. После его смерти в Саламии (в Сирии) место вождя секты занял его сын Ахмад. При нем она приобрела огромное политическое значение. Один из проповедников, посланный в 887 г. в Ирак, обратил в ислам некоего Кармата, и тот образовал особую группу исмаилитов-карматов. Карматство явилось наиболее радикальным и оппозиционным взглядом ортодоксальному исламу. Карматами называли всех, кто выступал против существующего режима. Сторонниками этого учения в X–XI вв. были многие исламские поэты, хотя и в разной степени. К ним относили даже таких государственных деятелей, как Махмуд Газневи и визирь Сельджукидов Низам аль-Мульк. В дальнейшем карматство из литературного течения превратилось в широкую философскую систему, во многом противоречивую. Наряду с оппозиционностью, в нем встречается направление, сторонники которого проповедуют изуверско-мистическую, террористическую идеологию (поклонение «живому Богу» – теократическому монарху).

Одним из самых бескомпромиссных правдоискателей стал Насир Хосров. Странствуя по городам и селам тогдашнего Востока, он пришел к выводу, что справедливость существует только в карматских общинах, в которых, как ему казалось, люди могут думать как хотят и говорить правду. Особенно восхищался поэт положением карматских общин в Египте при первых Фатимидах. В представлении Насира карматство имело огромное нравственное значение – утверждало конец подчинению одних людей другими, равно делая их через посредство имама подданными Бога, что, по его представлениям, неимоверно поднимало достоинство человеческой личности. В карматском государстве-братстве люди отличались бы лишь степенью достижения истинного познания и ступенью на пути к совершенному человеку.

Глава Фатимидского государства поручил Хосрову руководить тайной проповеднической работой в Хорасане, присвоив ему один из высших титулов в карматской иерархии – худджат (доказательство). Тайный характер карматской проповеди требовал не широкой проповеди на площади и в мечети, а тайной борьбы за каждую душу новообращенных. Насир Хосров непрерывно менял места своей деятельности, скрываясь от преследований сельджукских властей и неся слова обретенной им правды, пробираясь по лесным чащобам, болотам, горным кручам. В конце концов, он был вынужден укрыться от преследований в неприступных горных селениях Бадахшана на Памире. Здесь господствовал независимый от сельджукидов местный правитель Али ибн Асад, принявший карматскую веру (возможно, под влиянием Насира Хосрова). Поэт провел последние годы жизни в горном селении, где и написал основные труды по обоснованию системы карматства.