L'oliva era el símbol de tot el Mediterrani en l'antiguitat. Juntament amb l'alzina, és l'arbre més venerat de la mitologia grega. Curiosament, els grecs utilitzaven les olives com a font principal de greixos. La carn era l'aliment dels bàrbars i per tant es considerava poc saludable.
La mitologia grega explica l'origen de l'olivera a Atenes de la següent manera. Atenea és filla de Zeus (el déu suprem de la mitologia grega) i Metis, que simbolitzava l'astúcia i la prudència. Atena era una deessa de la guerra els atributs de la qual eren llances, un casc i un escut. A més, Atenea era considerada la deessa de la justícia i la saviesa, la protectora de l'art i la literatura. El seu animal sagrat era l'òliba, i l'olivera era un dels seus símbols distintius. El motiu pel qual la deessa va triar l'oliva com a símbol s'explica en el següent conte mític:
A Grècia, l'olivera simbolitza la pau i la prosperitat, així com la resurrecció i l'esperança. Així ho demostren els fets ocorreguts després de la crema d'Atenes per part del rei persa Xerxes al segle V aC. Xerxes va cremar tota la ciutat de l'Acròpolis, juntament amb les oliveres ateneses centenàries. Tanmateix, quan els atenesos van entrar a la ciutat cremada, l'olivera ja havia començat una nova branca, simbolitzant la ràpida recuperació i renovació davant l'adversitat.
Hèrcules, un dels herois mitològics més famosos, també està associat a l'olivera. Malgrat la seva molt jove edat, Hèrcules va aconseguir derrotar el lleó Chitaeron només amb l'ajuda de les seves mans i un pal d'olivera. Aquesta història glorificava l'oliva com a font de força i lluita.
L'olivera, en ser sagrada, s'utilitzava sovint com a ofrena als déus dels mortals. Això està ben descrit a la història de Teseu, l'heroi nacional de l'Àtica. Teseu era fill del rei de l'Àtica de l'Egeu, que va viure innombrables aventures al llarg de la seva vida. Un d'ells va ser l'enfrontament amb el Minotaure a l'illa de Creta. Abans de la batalla, Teseu també va demanar protecció a Apol·lo.
La fertilitat era un altre atribut de l'olivera. Atena és la deessa de la fertilitat i el seu símbol va ser un dels arbres més conreats de Grècia, els fruits dels quals van alimentar els hel·lens durant segles. Així, els que volien augmentar la fertilitat de les seves terres buscaven l'oliva.
La relació entre l'antiga societat grega i l'olivera va ser molt intensa. L'oliva simbolitzava la força, la victòria, la bellesa, la saviesa, la salut, la fertilitat i era una ofrena sagrada. L'oli d'oliva autèntic era considerat un objecte d'alt valor i s'oferia com a premi als guanyadors dels concursos.