Tallinn környéke a feltehetően már a kőkorszakban is lakott volt, elsőként a város létezését az Idríszí nevű, arab földrajztudós említi a világtérképén 1154-ben.

Idríszí a városra a Kolôvan (Qaluwany) nevet használta, ami az észt Kalev vagy a finn Kalevi férfinévre vezethető vissza. A Kalevipoeg, észt nemzeti eposz szerint amikor Kalev nemzeti hős meghalt, felesége, Linda észak finnugorszokások szerint hatalmas kőhalmos sírba temettette, ami később betemetődött földdel, és így alakult ki a Toompea-domb, amin Tallinn fekszik. Tehát Idríszí annak idején nem a levegőből kapta az általa Tallinnra használt nevet, de természetesen annak történelmi alapja nincs. Ugyanezekben az időkben a várost Lyndanise (Lindanäs, Lindenäs) néven is emlegették az iratokban, ami vélhetőleg Kalev feleségére, Lindára utal. Ezt a nevet feltehetőleg - hangzásából és egyéb nyelvtani hasonlóságból ítélve -dán és/vagy svéd ajkúak használhatták leginkább.