Pas vrasjes së Osmanit, komuniteti iu kthye atij personi që tashmë njihej si pasuesi më i denjë i Profetit, Aliut. Padyshim ai dhe pasuesit e tij- të cilët e quanin veten shiiat e Aliut ("fraksioni që mbështet Aliun")- besonin se ai ka qenë pasuesi i menduar i Profetit gjatë gjithë kohës. Fatkeqësisht, Aliu nuk do të kishte mundësinë të parashtronte vizionin e tij në shoqërinë myslimane, pasi i duhej të merrej me pasojat e vrasjes së Osmanit. Anëtarët e fisit të Osmanit kërkonin hakmarrje për vrasjen e tij. Tensioni kryesor pas vrasjes së Osmanit ishte mes pasuesve të Aliut dhe pasuesve të Muavijes, i cili, njësoj si Osmani, ishte nga fisi Beni Umajad.

 

Muavija pretendonte për të drejtën e hakmarrjes për vrasjen e Osmanit sipas zakoneve arabe- para islamike. Aliu refuzoi dhe kështu nisen konfliktet e mëtejshme. Sa për të komplikuar më tej çështjen, një tjetër ngjarje po ndodhte në komunitet: një pjesë e anëtarëve më të devotshëm të komunitetit, veçanërisht ata të cilët kishin mësuar përmendësh Kur‘anin dhe ishin mjeshtër të recitimit të tij, u larguan nga të dy Aliu dhe Muavija duke formuar kështu një grup të tretë të quajtur Havarixh. Ata këmbëngulnin në një meritokraci totale të bazuar jo mbi prejardhjen nga familjet fisnore të Kurejshëve (siç insistonte Muavija) apo nga familja e Profetit (siç këmbëngulnin shiiat e Aliut), por për më tepër të bazuar thjesht në devotshmëri.

 

Pas një seance gjykimi, Aliu dhe Havarixhët dështuan për të arritur një rezolutë. Kushtet e këtij gjykimi janë të dobishme për myslimanët sot: Havarixhët pretendonin se nuk do t‘i dorëzoheshin asnjë autoriteti tjetër përveç Kur‘anit. Aliu shkëlqyeshëm iu përgjigj se Kur‘ani është i heshtur dhe mund të flasë vetëm kur interpretohet nga njerëzit. Ky vështrim, që nga vetë periudha e themelimit të islamit afër me periudhën e Profetit, është i një rëndësie të madhe për myslimanët sot, të cilët shpesh kërkojnë të legjitimojnë vetë pozitat e tyre nëpërmjet "tekst-dëshmisë" (duke cituar shkrime të shenjta të zgjedhura dhe shpesh jashtë kontekstit të tyre), ndërsa fshehin apo mohojnë vetë perspektivat e tyre filozofike dhe ideologjike. Ashtu si Omari dhe Osmani para tij, edhe Aliu do të ketë një fund të dhunshëm. Në muajin e shenjtë të Ramazanit në vitin 661, Aliu ishte në Kufe (në Irak) për të kryer namazin e sabahut. Pas britmave, "Gjykimet i përkasin Allahut, o Ali, e jo ty," një ndër Havarixhët e quajtur Ibn Mulxham sulmoi dhe plagosi për vdekje Aliun, ndërsa ai ishte në mes të namazit. Tradita shiite përmend se kur vrasësi qëlloi Aliun me shpatë të helmosur, Aliu thërriti: "Pasha Allahun e Qabes, unë kam triumfuar!"

 

Burimet tregojnë se Aliu, modeli shembullor i islamit, ndaloi turmën nga hakmarrja ndaj vrasësit të tij nëpërmjet torturave apo dhimbjeve që vetë ai po kalonte dhe madje kërkoi që Ibn Mulxhami të ushqehej njësoj me bukë e ujë si vetë Aliu- kalifi i islamit- po ushqehej në ditët e fundit të jetës së tij, përfshirë edhe gjysmën e vetë tasit të tij të qumështit. Kur Aliu vdiq pas dy ditësh, mauzoleja e tij në Naxhaf (në Irakun e sotëm) u bë një vend i madh i pelegrinazhit islamik.

 

Pritej që shiitët normalisht, do të nderonin Aliun si paraardhësin e imamëve të mëvonshëm. Megjithatë, mund të mos e keni pritur të dini se Aliu është gjithashtu një shembull për shumë persona të cilët vijnë nga sfondi sunitë. Pas Profetit Muhamed, ndoshta asnjë figurë tjetër myslimane nuk ka qenë subjekt i një idealizmi të tillë. Ai ka mishëruar kalorësin trim, shpirtin e përkryer kalorësiak, sundimtarin e vetëm dhe mistikun e përsosur. Ai mbahet mend si djali i ri i cili me trimëri u shtri në krevatin e Profetit për të shërbyer si një kurth, ndërsa Profeti Muhamed u nis në hixhret drejt Medinës edhe pse Aliu e dinte se vrasësit që i ishin vënë pas të Dërguarit mund të qëllonin atë. Kombinimi i trimërisë, devotshmërisë, dijes dhe afërsisë me shembullin e Profetit bëri që gjeneratat e mëvonshme ta idealizonin atë. Ndoshta dijetari më i madh i shekullit të njëzet të shiizmit të hershëm, Wilferd Madelung, thotë: "Në kujtesën e brezave të mëvonshëm, Aliu u bë Komandanti ideal i besimtarëve."

 

Të dy burimet shiite dhe sunite tregojnë se shokët e ngushtë të Profetit, si Ebu Dheri- kampioni i drejtësisë që kritikoi nepotizmin Umajad- qante sa herë që e shikonte Aliun dhe thotë: "Pasha Zotin, kur të shoh ty, më kujtohet gjithnjë Profet." Aliu ka qenë një kujtim i gjallë i Profetit për komunitetin mysliman.

 

Një nga trashëgimitë e Aliut ishte një koleksion i mrekullueshëm i predikimeve dhe aforizmave i njohur si Nahxh-ul Balaghe ("Kulmi i elokuencës"). Për myslimanët shiitë në veçanti, ky koleksion është i dyti për nga rëndësia pas Kur‘anit; pasi ata besojnë se Aliu ka qenë një kujtues më besnik i mësimeve të Profetit se koleksionet e haditheve sunite, ata i referohen Nahxh ul Balaghes ndoshta edhe më shpesh se u referohen haditheve të Profetit Muhamed. Në Nahxh-ul Balaghe, Aliu zbulon veten e tij  si një mjeshtër të madh dhe elokuent të gjuhës arabe si dhe një të urtë spiritual, mësimet e të cilit janë të dizajnuara të zbatohen në jetën e përditshme. 

 

• Rrini me njerëzit në një mënyrë të tillë që nëse vdisni, ata të qajnë për ju, dhe nëse jetoni, ata të jenë të etur për të qenë me ju. 
• Nëse pushtoni armikun tuaj, faleni atë dhe jini mirënjohës ndaj Zotit për fuqinë dhe bekimin. 
• Asnjë pasuri nuk është më e dobishme se dituria dhe asnjë vetmi nuk është më frikësuese se dashuria për veten. Asgjë nuk është më fisnike se devotshmëria dhe asnjë trashëgimi nuk është më e bukur se mirësjellja.

 

Ashtu siç ndodh me shumë tradita spirituale, Aliu këshillon pasuesit e tij të flasin pak dhe të kujtojnë se zemra e një qenie të mençur është kraharori i thesarit të sekreteve.14 Fjala, kur nuk shoqërohet me mendim të thellë dhe reflektim, është për Aliun si një kafshë e egër që të çon në dënim dhe shkatërrim.15 Padyshim si rrjedhojë e vetë reflektimit në eksperiencën e tij të jetesës për njëzet e pesë vite gjatë periudhës së grindjeve të brendshme mes myslimanëve, Aliu thotë: "Në kohën e trazirave, ji si viç që ushqehet me gji, i cili nuk mund të kthehet pas dhe as nuk ka sisë të ushqehet.‖16 Myslimanët në këtë fazë të hershme shprehnin spiritualitetin e tyre jo nëpërmjet mrekullive të botës tjetër, por nëpërmjet mahnitjes në mrekullinë e përditshme të krijimit, një tipar që në fakt ka qenë mjaft harmonik me përshkrimin Kur‘anor të kozmosit natyral si "shenjë‖ (aje) e Zotit. Aliu lavdëron kryeveprën e Zoti, qenien njerëzore, kur deklaron: Unë mahnitem me krijimin e njerëzimit: Njeriu shikon përmes një vello të qartë (sytë), flet përmes një cope mishi, dëgjon nëpërmjet një kocke dhe një kërci, si dhe merr frymë përmes një vrime të ngushtë.