Na mestu današnje Palate "Albanija", nalazila se kafana "Albanija" koja je podignuta sredinom XIX veka. Kafana je bila na odličnom mestu jer je u blizini bio hotel Moskva, a svako ko je išao ka Kalemegdanu je morao da prođe pored nje. Čuveni sat ispred kafane je bio mesto sastanka mnogih Beograđana.
Srušena je 1936. godine da bi se napravilo mesta za Palatu "Albanija".