Zjawisko magnetyczne znane było ludzkości już w starożytności. W owym czasie powstało na ten temat wiele legend i podań. Jedna z nich opowiada o pasterzu o imieniu Magnes, który przebywał na górze Ida na Krecie. Odczuwał on niezwykle duże przyciąganie gwoździ w butach i okutej lasce. Było ono na tyle silne, że nie mógł się poruszać. Odkrył, że odpowiedzialny był za to kamień, który przyciągał żelazo (magnetyt).

W dawnych opowieściach arabskich również możemy odnaleźć nawiązania do magnetyzmu. Jedna z nich opisuje górę zlokalizowaną blisko morza, która była odpowiedzialna za wyciąganie gwoździ z przepływających w pobliżu statków. Okrety te miały ulegać późniejszym katastrofom i zatonięciu.

Zjawisko magnetyczne najwcześniej znane było Chińczykom, bo już w XXVI wieku p.n.e. Pewne dane wskazują, że żeglarze chińscy posługiwali się kompasem już w II wieku p.n.e. W Europie kompasy z igłą magnetyczną zawieszoną na drewienku pływającym po wodzie znane były w XII wieku n.e.