Sahl bin Sa’ad bercerita, bahwa Rasulullah SAW pada peristiwa Khaibar berkata, “Bendera ini akan aku berikan kepada pria yang di tangannya Allah akan menaklukannya. Ia mencintai Allah dan Rasul-Nya dan Allah dan Rasul-Nya mencintai dia.”
Rasulullah SAW kemudian memanggil Ali bin Abi Thalib untuk memimpin pasukan perang. Beliau juga mendoakan kemenangan kepadanya.
Setelah Rasulullah SAW memberikan bendera kepadanya, Ali berkata, “Wahai Rasulullah, mereka akan aku perangi sehingga mereka menjadi seperti kita.”
Rasulullah SAW berkata, “Laksanakanlah sampai kamu memasuki halamannya, lalu ajaklah mereka kepada Islam. Beritahukanlah tentang hal yang wajib atas mereka dari hak Allah. Demi Allah, melalui kamu Allah memberi hidayah kepada satu orang, itu jauh lebih baik bagimu daripada seekor unta merah.”
Kaum Yahudi yang terlena oleh sebagian kemenangan sebelumnya, tidak menyadari kedatangan Ali bersama pasukan muslimin. Ketika pasukan muslim menyerang, Ali berhasil membunuh Marhab dan Al Harits yang keduanya merupakan pahlawan Yahudi, sehingga menimbulkan ketakutan dalam barisan Yahudi.
Pasukan Yahudi menarik diri dan mengunci benteng-benteng pertahanan mereka.
Ali kemudian menjulurkan tangannya ke pintu benteng dan menggoyangkannya dengan kuat, kemudian mencabutnya dan menjadikannya sebagai jembatan penyeberangan pasukan muslim. Kaum Yahudi yang ketakutan kemudian menyatakan menyerah.
