Rab történelme idestova 2370 évre nyúlik vissza, jóval Krisztus születése előttre. Ekkor a szigeten élő őslakos civilizáció még nem ismerte az írásosságot, az ókori görögök viszont igen. Ők említik a „Pszeudo-Szkülax”-ban Rab-ot „Arba” néven. Az elnevezés eredete az idő homályába vész, még a vaskorban élő illír törzsektől származik, akik ebben az időszakban éltek ebben a régióban. Rab azon a határvonalon feküdt, amely elválasztotta Dalmáciát Illíria többi részétől.

A nagy római birodalom terjeszkedése i.e. a III.-V. századok között érte el a Rab szigetet. Rab volt az első dalmát város amely municípiumi rangot kapott i.sz. az I. században (10-ben) Octavianus császártól. Ezt jelölte a „Felix” jelző. Ennek írásos bizonyítéka is van, amely egy, az i.sz. II.-III. századból származó amforán látható. A rómaiak megerősítették a várost, falakkal vették körbe Octavianus császár idejében, amint az kőbe van vésve az egykori városfal maradványain.

A nagy népvándorlás korában, a VII. században szlávok érkeztek erre a vidékre és letelepedtek itt. Később, az Újjászületés korában a Velencei Köztársaság uralma alá tartozott Rab városa, akárcsak a sziget és az egész régió maga. A Velencei Birodalom végül meghajlott Napóleon seregeinek nyomására, így Rab is francia fennhatóság alá került, de csak egy rövid időre, hiszen Napóleont végül legyőzte a Habsburg Birodalom, így a városnak és a szigetnek új ura lett 1815-től. Az Első Világháborút a Második követte, az új megszálló pedig a fasiszta Olaszország lett, karöltve a náci Németországgal. A második Világháború végétől a megszállók kivonultak a szigetről és a városból is, a békekötés után pedig Tito Jugoszláviájához lett csatolva a régió. Horvátországhoz 1991 óta tartozik Rab, ugyanis ekkor nyilvánította ki szuverenitását Horvátország.