로마 군대에 의해 예루살렘이 점령당하고 유태인들이 성 밖으로 추방당하자 일부 유태인들이 AD70년부터 마사다에 들어와 살기 시작했다. 그러나 로마 황제 베스파시안의 명령에 의해 마사다를 함락시키기 위해 로마의 제 10군단이 진군해 왔다. 실바 장군이 이끄는 9천명에 가까운 군대였다. 이들은 노역을 시키기 위해 많은 유태인들을 포로로 끌고 왔다. 로마군은 마사다에 집결해 있는 유태인들의 항복을 받기 위해 마사다를 포위하고 물과 식량 공급을 막았다. 그러나 마사다에는 많은 양의 식량이 비축되어 있었으며 물 탱크에도 물이 가득 들어 있었다. 무기도 오랫 동안 싸워도 바닥이 나지 않을 만큼 충분한 양이 마련되어 있었다.
실바 장군 등 로마군은 고사(枯死)작전이나, 깍아지른 듯한 마사다로 곧장 올라가서 싸워 함락시키기는 어렵다는 것을 깨닫고 다른 방법을 사용했다. 즉, 마사다 주변에 8개의 진지를 구축하고 포로를 동원하여 인공능선을 만드는 것이었다.

로마군은 마사다 가까운 곳에 공성탑을 만들어 활과 투석기로 공격했다. 투석기에서 날아간 돌은 마사다에서 저항하는 유태인과 성벽 파괴에 가공할만한 위력을 발휘했다. 유태인들은 파괴된 성벽을 나무로 막았으나 로마군의 불화살 공격으로 무력화되었다.
마사다 서쪽 끝에 돌출되어 나온 바위에 흙과 돌을 날라서 마침내 마사다 내부로 진격할 수 있는 인공 능선이 만들어졌다. 실바 장군은 기뻐하며, 다음 날 새벽 공격하기로 하고 유태인들이 밤중에 탈출하지 못하도록 더욱 경비를 엄격히 했다.

3년 동안 외부와 완전히 고립되고 식량과 물이 바닥이 난 절박한 상황 속에서 끝까지 항쟁을 했던 마사다의 유태인들은 내일이면 최후가 올 것이라는 것을 알았다. 유태인의 지도자 엘리아 자르벤 야이르는 유태인들을 모아놓고 비장한 연설을 했다. '사랑하는 형제 여러분. 로마인의 노예가 되어 우리의 가족이 비참하게 살아갈 바에는 차라리 자유로운 상태에서 죽음을 맞이합시다...'
마사다의 유태인들은 각자 집으로 돌아가서 가족들과 마지막 포옹을 나눈 후 차례대로 가족을 죽였다. 나중에는 열사람씩 모여 한 사람이 아홉명을 죽이고 자신도 죽는 참혹한 비극이 이어졌다. 최후로 남은 유태인은 마사다에 불을 지르고 자결했다. AD 73년 4월 15일 저녁에 이렇게 죽은 유태인은 모두 960명이었다.

다음날 아침 무장한 로마군이 진입했지만 그들을 맞이하는 것은 여기저기 흩어진 시체들과 무서운 적막 뿐이었다. 뜻밖의 일에 당황했지만 로마군은 유태인들의 용기에 감탄했다. 수색 끝에 두 명의 여인과 어린이가 잡혀 나왔지만 실바 장군은 이들을 모두 살려주었다.
오늘날 마사다에 가보면 오랜 세월에도 불구하고 당시 로마군이 사용하던 투석기의 돌과 같은 무기류와 유태인이 사용했던 집터, 물저장고, 식량창고 등이 남아있어 옛 일을 회상하게 한다.