Вернувшись в лагерь на время вынужденного перемирия, воины осудили нерешительность Али, тем более, что преимущество было на их стороне, и заявили, что никакого судебного решения не может быть, ибо «суд божий» (под ним подразумевалось победа над сирийцами) уже состоялся. По их мнению, вступать в переговоры с почти поверженным врагом означало идти «против воли Аллаха». Разочаровавшись в Али как в вожде, 12 тыс. воинов-хариджитов покинули лагерь и обосновались в другом месте, выбрав своего халифа.

Наиболее последовательные из них высказались против господства как Алидов, так и мекканской аристократии. Они основали собственную военную базу в районе Басры, откуда совершали налеты на своих врагов.

Первоначально хариджиты (также как и шииты) выступали с чисто политических позиций, но впоследствии образовали особую религиозную группу (секту).

Во второй половине 7 в. хариджиты раскололись на группировки: азракиты, ибадиты, суфриты и др. Выступая против центральной власти, хариджитские группы соперничали между собой, что не позволило им стать мощным оппозиционным движением.

Названия хариджитских группировок возникли от имен предводителей. Например, Нафи ибн аль-Азрак стал руководителем мощного восстания хариджитов-азракитов в 684–699 против Омейадов в Ираке. Азракиты смогли получить поддержку жителей некоторых районов Персии. Но уже скоро между арабами и персами вспыхнула борьба, вследствие чего значительная часть азракитов-арабов была истреблена в Табаристане (699).

Подразделение хариджитов-ибадитов возникло в Басре, где главой общины стал Абдаллах ибн Ибад. В начале 8 в. большинство ибадитских вождей переселилось в Оман. Эта секта была наиболее умеренной. Помимо Ирака и Ирана, хариджиты развернули широкую деятельность в Аравии, Йемене и Северной Африке. В 10 в. в разных местах существовало около 20 хариджитских общин.

Основным пунктом учения хариджитов было признание равенства всех мусульман (арабов и неарабов) внутри мусульманской общины.

Хариджиты были непримиримыми врагами исламской земледельческой знати и крупного частного землевладения; выступали против социального неравенства внутри общины. Создали представление о справедливом государстве, где все мусульмане будет равны, даже вчерашние рабы. Во главе такого государства должен быть достойный выборный халиф. Идея об идеальном халифе-лидере впоследствии перевоплотилась в учение о махди (мессии).

Их точка зрения на халифат-имамат резко отличалась от взглядов суннитов и шиитов. По мнению хариджитов, имам-халиф мог обладать только исполнительной властью, он должен быть выборным, его можно сместить и даже подвергнуть суду. Естественно, хариджиты отказывали представителям рода Хашим в праве на наследственный имамат.

Взгляды хариджитов на вопросы религии в основном совпадали с взглядами суннитов. Однако они принимали только двух первых халифов – Абу Бакра и Умара, не признавая Усмана, Али, а также халифов омейадских, аббасидских, а также наследственного имамата потомков Али. Ими были выработаны представления о малом и большом грехе.