Tokat'ın Erbaa ilçesi Holay köyünde 1877 yılında doğdu. Doğduğu köyde tahsîlini tamamladıktan sonra saatçilik yapmaya başladı. Bir gün Eksel köyünde (yeni ismi Koçak) oturan Eksel şeyhi olarak bilinen Behrullah Efendinin saati bozuldu. Talebelerine tâmir edilmesini söyleyince, onlar; "Efendim, karşı Holay köyünden Ali Osman isminde birisi var ona tâmir ettirelim." dediler. Talebelerinden biri AliOsman Efendi ile Erbaa'da karşılaşınca, hocasının saatinden bahsetti. Ali Osman Efendi de Eksel köyüne gitti. Saati tâmir edip duvara astı. Behrullah Efendiye; "Tamam çalışıyor efendim." dedi. Behrullah Efendi saate bakınca çalışan saat durdu. Ali Osman Efendi tekrar yapıp duvara astı. Behrullah Efendi saate bakınca, saat yine durdu. Ali Efendi hayretler içinde tekrar yaptı. Yine Behrullah Efendi saate bakınca, saat durdu. O zaman Ali Osman Efendi kendi kendine; "Bu zât evliyâ bir zâttır. Şu an kalbimin saatini tâmir edecek kalp ustasının huzûrundayım." dedi ve Behrullah Efendiye talebe oldu. Arapça, Farsça ve kalp ilimleri de dâhil bütün ilimleri Behrullah Efendiden öğrendi. Behrullah Efendi vefâtına yakın; "Bende ne varsa Ali Osman Efendi aldı götürdü. Bende bir şey bırakmadı." buyurdu.
Ali Osman Efendi insanlara doğru yolu anlatmak için köy köy dolaşırdı. İnsanlara doğru yolu anlatırken çok yumuşak, hattâ arada nükte yapardı. Siyâset ve devlet işlerine hiç karışmazdı. Sohbetinin ağırlığı, güzel ahlâk üzerine olurdu. Güzel ahlâkın bulunmaz bir hazîne olduğunu anlatırdı. Fakat bâzılarının gözü hep altında olduğundan bir gün onlara dönüp; "Altının kulpu burası, çok altın var diye bir yeri işâret etti. Bunu duyan altın düşkünleri sabaha kadar orayı kazdılar. Fakat hiçbir şey bulamadılar. Elleri boş Ali Osman Efendinin köyüne döndüler. Kimseye de hiçbir şey anlatmadılar. Ertesi gün onları gören Ali Osman Efendi; "Oğlum işâret ederler ama, düşkünlerine vermezler." dedi.
Yine bir gün talebeleri ile Ladik'e ders vermek için gidiyordu. Talebelerinden birinin kalbine vesvese gelip hocası için; "Bu da insan biz de insanız." gibi bir düşünce geldi. Yolları bir ormandan geçiyordu. Bu sırada bir kurt, Ali Osman Efendinin önüne gelip iki ön ayaklarını havaya kaldırıp, arka iki ayağı üzerine durunca; "Dağ ve taşlardaki hayvanlar inandı da bâzıları hâlâ anlıyamadı." buyurdu. O talebe düşüncesinden dolayı hemen tövbe etti.
Dînî vecîbeleri yerine getirmenin yasak olduğu dönemde Ali Osman Efendi, Gümüşçakır köyünde sohbet ederken jandarmalar köyü bastı. Ali Osman Efendi tutuklanarak önce Vezirköprü daha sonra da Samsun cezâevine gönderildi. Ali Osman Efendi Samsun'da bir hücreye kondu. Hücrede namaz kıldığını gördüklerinde, kılmaması için su vermediler. Bir süre sonra su olmamasına rağmen, yine onu namaz kılarken gördüler. Mahkeme esnâsında savcı, Ali Osman Efendiye akla gelmedik hakâretlerde bulundu. Duruşmada Ali Efendi sâdece; "Savcı bey biz insanlara namaz kılın, âhirete hazırlanın dedik. Söylediklerimizin hepsi bu kadar." dedi. Ertesi gün savcı kalp krizinden öldü. Bir süre sonra mahkeme, Ali Osman Efendiyi serbest bıraktı.
Ali Osman Efendi tütün kullanırdı. Huzûruna gelen bir fakir dilenci onun tütün yaktığını görünce; "Siz sigara içiyor muydunuz?" diye sordu. Cevâben; "Biz içmiyoruz yakıyoruz." buyurdu. O fakir; "Peygamber efendimiz hiç içmedi, sen niye içiyorsun?" diye sorduğunda, AliOsman Efendi kızmadan; "Peygamber efendimiz sırtında heybe, senin gibi dolaştı mı?" deyince, adam söyleyecek bir şey bulamadı.
Ali Osman Efendi, Erbaa zelzelesi olmadan önce atına binip, Erbaa'dan ayrıldı. O sırada herkesin Deli Mehmed diye bildiği bir meczub arkasından; "Tutun, yakalayın! Erbaa zelzelesini mühürledi gidiyor!" diye bağırdı. Deli diye kimse bu meczûbun sözlerini dikkate almadı. Bir süre sonra Erbaa'da çok büyük zelzele oldu. Bu zelzelede Ali Osman Efendinin 14 yaşındaki bir kızı da hayatını kaybetti. Zelzeleden sonra Erbaa'ya dönen Ali Osman Efendiye kızının vefât ettiği söylenince;
"Daha büyük belâ gelmemesi için evladımızı kurban verdik. Halk, Deli Mehmed'in sözlerine deli zannettikleri için inanmadılar." buyurdu.
Talebelerine sık sık şu nasîhatı yapardı: "Hiç kimse ile münâkaşa etmeyiniz. Söz dinleyiniz. Kim söz dinlerse, o benim öz oğlumdur. Birbirinizi sevin, beni sevmiş olursunuz. Aranızda dargınlık olmasın."
Ali Osman Efendi birgün dergâhında namaz kılıyordu. Oğlu İbrâhim babasının yanına girmek istedi. Babasının namaz kıldığını görünce, içeri girmedi. Birkaç kere baktığında babasını tehiyyatta oturur gördü. Sonra dayanamayarak içeri girdi. Babasının vefât ettiğini anladı. O esnâda kapıda bulunan köpek koşarak uzaklaştı. Talebelerinin bulunduğu bütün köyleri dolaştı. Hepsi bunda bir iş var diyerek dergâha geldiler ve cenâze namazını kılıp Holay köyü kabristanlığına defn ettiler.
1942 senesinde vefât eden Ali Osman Efendi, 63 yaşında idi. Kabri ziyâret mahallidir.

SOHBETİN BEREKETİ

Ali Osman Efendi, hocasının vefâtından sonra insanlara Allahü teâlânın emir ve yasaklarını anlatmaya başladı. Bir kış mevsimi Ali Osman Efendi talebesi Veysel Hâfız ile bir yere giderlerken namaz vakti daralır. Ali Osman Efendi talebesine; "Buralarda tanıdık bir köy yok mu?" diye sorunca, Veysel Efendi; "Tanıdık var ama îtikâdları bozuktur." dedi. Ali Osman Efendi olsun deyip köye gittiler. Veysel Hâfız tanıdığı birisinin kapısını çaldı. O zât bunları görünce, odada kim varsa herkesi dışarı çıkardı. Ali Osman Efendi, talebesi ile namaz kıldıktan sonra, sohbete başladı. Sohbete köyden herkes geldi ve sabaha kadar devâm etti. Sohbetin netîcesinde bu köyün halkı bozuk olan îtikâtlarına tövbe edip Ehl-i sünnet îtikâdını kabûl ettiler.