Habib Usman bin Yahya lahir di Pekojan, Jakarta Barat pada tanggal 17 Rabi’ul Awwal 1238 H atau 1822 M. Ayahnya adalah Abdullah bin Aqil bin Syech bin Abdurahman bin Aqil bin Ahmad bin Yahya. Sedangkan ibunya adalah Aminah binti Syekh Abdurahman Al-Misri. Beliau pergi ke Mekah untuk menunaikan ibadah Haji, tetapi kemudian bermukim di sana selama 7 tahun dengan maksud memperdalam ilmunya.
Guru utama beliau adalah ayahnya sendiri. Sedangkan ketika berada di Mekah beliau belajar/berguru pada sayyid Ahmad Zaini Dahlan ( Mufti Mekah ). Pada tahun 1848 beliau berangkat pula ke Hadramaut untuk belajar pada guru-gurunya yakni Syekh Abdullah bin Husein bin Thahir, Habib Abdullah bin Umar bin Yahya, Habib Alwi bin Saggaf Al-Jufri dan Habib Hasan bin Shaleh Al-Bahar.
Dari Hadramaut beliau berangkat pula ke Mesir dan belajar di Kairo walaupun hanya untuk 8 bulan. Kemudian meneruskan perjalanan lagi ke Tunis (berguru pada Syekh Abdullah Basya), Aljazair (belajar pada Syekh Abdurahman Al-Magribhi), Istanbul, Persia dan Syiria.
Maksud beliau berpergian dari satu negeri ke negeri lain adalah untuk memperoleh dan mendalami bermacam-macam ilmu seperti ilmu fiqh, tasawuf, tarikh, falak, dan lain-lain. Setelah itu beliau kembali ke Hadramaut.
Pada tahun 1862 M./1279 H. kembali ke Batavia dan menetap di Batavia hingga wafat pada tahun 1331 H./1913 M. Habib Usman diangkat menjadi Mufti menggantikan mufti sebelumnya, Syekh Abdul Gani yang telah lanjut usianya, dan sebagai Adviseur Honorer untuk urusan Arab ( 1899 – 1914 ) di kantor Voor Inlandsche Zaken.
Sebagai seorang Ulama, Habib Usman ini sangat produktif mengarang buku. Walaupun buku-buku karangannya pendek-pendek, sekitar 20 halaman saja, tetapi banyak mengenai pertanyaan yang sering timbul dalam masyarakat Muslim tentang syariat Islam. Beberapa buku karangannya, yaitu : Taudhih Al-Adillati ‘ala Syuruthi Al-Abillah, Al-Qawanin Asy-Syar’iyah li Ahl Al-Majalisi Al-Hukmiyah wal Iftaiyah , Ta’bir Aqwa ‘adillah, Jam Al-Fawaid, Sifat Dua Puluh, Irsyad Al-Anam, Zahr Al-Basyim,Ishlah Al-Hal, Al-Tuhfat Al-Wardiah, Silsilah Alawiyah, Al-Thariq Al-Shahihah, Taudhih Al-Adillah , Masalik Al-Akhyar, Sa’adat Al-Anam, Nafais Al-Ihlah, , Kitab Al-Faraid, , Saguna Sakaya, Muthala’ah, Soal Jawab Agama, Tujuh Faedah, Al-Nashidat Al-Aniqah, Khutbah Nikah, Al-Qu’an Wa Al-Dua, Ringkasan Ilmu Adat Istiadat, Ringkasan seni membaca Al-Qur’an, Membahasa Al-Qur’an dan Kesalahan Dalam Berdo’a, , Perhiasan, Ringkasan Unsur-unsur Do’a, Ringkasan Tata Bahasa Arab, Al-Silisilah Al-Nabawiyah, Atlas Arabi, Gambar Mekah dan Madinah, Ringkasan Seni Menentukan Waktu Sah Untuk Shalat, Ilmu kalam, Hukum Perkawinan, Ringkasan Hukum Pengunduran Diri Istri Secara Sah, Ringkasan Undang-Undang Saudara Susu, Buku Pelajaran Bahasa dan Ukuran Buku, Adab Al-Insan, Kamus Arab Melayu, Cempaka Mulia, Risalah Dua Ilmu, Bab Al-Minan, Hadits Keluarga, Khawariq Al-Adat, Kitab Al-Manasik dan Ilmu Falak.