Di samping Hajar Aswad, ada satu sisi dari ka'bah yang selalu diusap oleh Rasulullah saw yang kemudian diikuti oleh para shahabat, yaitu Rukun Yamani.

   
Rukun Yamani adalah sisi ka'bah yang sejajar dengan Hajar Aswad, tepatnya di sudut barat daya yang kiswahnya terbuka. Disebut Rukun Yamani karena sudut Ka'bah yang bagian barat daya kalau ditarik garis lurus ke selatan persis sejajar dengan Negara Yaman.

   
Kalau Hajar Aswad diusap dan dicium oleh Rasulullah saw, tapi untuk Rukun Yamani Rasulullah saw mengusapnya. Sehubungan dengan kebiasaan Rasulullah yang selalu mengusap Rukun Yamani, maka Umar Bin Khattab pun berkata:

مَا تَرَكْتُ اسْتِلَامَ هَذَيْنِ الرُّكْنَيْنِ الْيَمَانِيَ، وَالْحَجَرَ، مُذْ رَأَيْتُ رَسُولَ اللهِ صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ يَسْتَلِمُهُمَا، فِي شِدَّةٍ وَلَا رَخَاءٍ

Artinya:
Aku tidak pernah meninggalkan meraba kedua sudut ini, yaitu sudut Yamani dan sudut Hajar Aswad, sejak aku melihat Rasulullah shallallahu alaihi wa sallam mengusapnya, baik dalam keadaan sempit (kesulitan) maupun dalam keadaan lapang (longgar). (Diriwayatkan oleh Muslim)

Penulis: H Ahmad Niam Syukri Masruri