Во времена пророка [Мухаммада], когда, если так можно выразиться, врата небесные были открыты, напряженность духовной жизни и близость к источнику Откровения не допускали абсолютного разделения исламской традиции на экзотерический и эзотерический компоненты, или шариат и тарикат, хотя оба они существовали в исламе с самого начала. Целостность традиции была подобна расплавленной лаве, которая не «застывала» и не распадалась на различные элементы, пока иссушающее влияние времени и развращающие условия этого мира постепенно не «остудили» ее и не привели к затвердеванию. Можно заметить, что в течение первых двух столетий существования этой традиции, характеризуемой быстротой экспансии, не существовало ни кодифицированной школы религиозного Закона, ни четко организованного суфийского братства, или ордена. Можно также заметить, что в III/IX веке кодифицируются школы Закона, или шариата, и в это же самое время начинает формироваться суфизм как особый элемент в исламской общине, а его учения и методы стали распространяться  братствами,  каждое  из  которых  направлялось  учителем и часто именовалось его именем.

Дух, витавший «в воздухе» в начальный период Откровения, таким образом, соединился с различными братствами и соответственно продолжал существовать как живая духовная традиция. Поздние суфии не практиковали ничего, что до них не практиковалось бы пророком и его сподвижниками, в особенности ‘Али [ибн ’Аби Тāлибом], ’Абу Бакром, ’Абу Зарром, Салмāном [ал‑Фāриси], Билāлом [ал‑Хабаши] и другими его соратниками, получившими его «эзотерические наставления». Пророк имел обыкновение уединяться (халва) в тихих и отдаленных местах, как, например, пещера Хирā’ горы [Джабал ан‑Нур], особенно в середине месяца мусульманского поста Рамадāн, а в поздний период своей жизни  — в мечети Медины. Всякий раз в своем уединении он совершал основной ритуал обращения к Богу (зикр). Он также призывал своих сподвижников «помнить Бога» и взывать к Его имени как наедине, так и находясь среди людей .

Именно на базе этих и других действий и изречений пророка суфии по настоящий день основывают свои методы и практики. И именно суфии всегда считали себя наиболее ревностными последователями учений пророка и стремились следовать его личному примеру в каждый момент своей жизни, что выражено в словах великого суфийского учителя III/IX века: «Все Пути (суфизма) открыты лишь тому, кто следует стопам Поборника [веры]» . Таким образом, суфизм представляет собой внутренний аспект учения пророка, постепенно оформлявшегося в течение II/VIII и III/IX вв . под этим именем, обозначившим эзотерическое измерение ислама.

Невозможно говорить об истории суфизма в настоящем значении этого слова, поскольку в сущности своей суфизм не имеет истории. Но поскольку в каждую эпоху суфизм раскрывал свои принципы в языке, соответствующем ментальным и психологическим особенностям этого периода, и поскольку в течение столетий возникали и развивались различные школы толкования [этих принципов], в свою очередь соответствующие «запросам» различных человеческих типов, то имеет смысл говорить о различных особенностях суфийской традиции в каждый период времени. Можно говорить о раннем аскетизме, рецитации Корана и собирателях хадисов, сохранивших учение пророка для последующих за сподвижниками поколений, многие из которых были мусульманскими «святыми». Здесь можно упомянуть такую значимую фигуру первых двух столетий существования ислама, как ал‑Хасан ал‑Басри, чья продолжительная жизнь  (21/643—110/728) фактически пришлась на три поколения мусульман со временем самого пророка. 

Исключительным значением в течение первых двух столетий обладали также шиитские имамы, первые восемь из которых играли главную роль в раннем периоде развития суфизма. В шиизме, который, по сути, является «исламом ‘Али [ибн ’Аби Тāлиба]» и основывается на идее духовного и временного преемства ‘Али от пророка, имамы, включающие самого ‘Али и его потомков, являются носителями пророческого света и эзотерическими представителями пророка. Помимо этого, многие из них играли существенную роль в формировании суфийских братств, получивших развитие в суннитском мире, и фигурируют в их духовных родословных (силсила). Практически все суфийские братства возводят свое происхождение к первому шиитскому имāму ‘Али [ибн ’Аби Тāлибу], а многие поздние суфии были учениками различных имāмов, в особенности, шестого имāма, Джа‘фара ас Сāдика (88/702—148/765), и восьмого, ‘Али  ар‑Ридā (ок . 148/765—203/818). Более того, некоторые имāмы оставили несколько прекрасных страниц об исламском гнозисе в своих трудах, среди которых самыми важными являются «Нахдж ал‑балāга» первого имама и «Сахифат ас‑саджāдийа» четвертого имāма Зайн ал-‘Āбидина.

III/IX столетие отмечено появлением многих знаменитых суфиев,чьи красноречивые изречения отпечатались в душах суфиев более поздних поколений. Среди известных личностей этого периода можно отметить Зу‑н‑Нуна, багдадского «святого» ал-Мухāсиби, принца Ибрāхима ал-Адхама, который подобно Гаутаме Будде покинул свою страну, чтобы обрести божественные знания, мудреца из Хорāсāна Бāйазида (’Абу Йазида) ал‑Бистāми,чьи парадоксальные изречения, или «теофанические выражения», основанные на его опыте высшего единства, прославили его как представителя наиболее интеллектуальной формы суфизма.

К концу III/IX столетия появляется умеренная багдадская школа, возглавляемая ал-Джунайдом, вокруг которого объединяются такие фигуры, как ан-Нури и аш‑Шибли, и с которым связано  имя суфийского мученика ал-Халлāджа. Этот великий суфий, который достаточно хорошо известен в западном мире благодаря исследованиям Л . Массиньона, представляет собой во многих отношениях духовный тип, близкий Христу, но в рамках исламской традиции, а его «страдания», по выражению Л. Массиньона, обладают определенным сходством со страданиями Христа.  Ал-Халлāдж  оставил  несколько прекрасных поэм на арабском языке, а также несколько изречений, которые до сих пор определяют духовный горизонт суфизма. Его знаменитое изречение «анā ал‑хакк» («Я есть Истинный») стало  подтверждением того факта, что суфизм является подлинным мистицизмом и что, когда снято покрывало инаковости, то именно Бог внутри каждого из нас говорит «Я» .

В течение IV/X века, в период расцвета исламского искусства и науки, суфийская традиция обогатилась большими дидактическими работами. Появляется также и новое средство — персидская поэзия, которая с этого времени стала одной из главных форм выражения суфизма. В это столетие появились такие классические «руководства» по суфизму, как «Китāб ал‑лума‘ [фи ат‑тасаввуф]»  («Книга “Проблески [знаний о суфизме]”») ‘Абу Насра ас‑Саррāджа, «Китāб ат‑та‘арруф [ла‑мазхаб ’ахл ат‑тасаввуф]» («Книга “Введение [в суфийское учение]”»)  ал-Калāбāзи, «Кашф ал‑махжуб» («Раскрытие сокрытого»). Все эти работы до сих пор остаются для адептов суфизма предметом изучения .

Таким образом, персидский язык, в дополнение к арабскому, стал одним из главных средств выражения и распространения суфийского учения, подготовив почву для Санā’ и, ‘Аттāра, несравненного Руми, Шабистари, Са‘ади и Хāфиза, в трудах которого «алхимическое» обращение с суфийской поэзией достигает своей кульминации. Благодаря этим ярким поэтам учение суфизма распространилось в восточных провинциях исламского мира — в Иране, Центральной Азии, Индии, на Яве и Суматре. А перевод некоторых из этих работ привлек внимание к суфизму таких европейских мыслителей и поэтов, как Гёте и Гердер.

В течение того же столетия в суфизм начинают проникать принципы философии,теологии и юриспруденции.