大约在公元3世纪前后，中国人发现了磁石能够吸铁的特性，同时还发现了磁石的指向性，并依此特性制造了“司南”。最迟在公元9世纪，指南针已应用于古代中国的陆上测量，还被阴阳家广泛用来看风水。官府在丈量田地和判决土地诉讼时，也经常使用指南针。

大约在10世纪的北宋时期，中国人已将指南针用于海上导航。这对于海上交通的发展，中外经济文化交流，起了极大作用。在北宋人朱彧1119年成书的《萍洲可谈》中，有这样一段文字：“甲令海舶，大者数百人，小者百余人……舟师识地理，夜则观星，昼则观日，阴晦观指南针”。一些外国学者在翻译这段文字时，误将其中的“甲令”(南宋政府的命令)一词翻译成了往来海上的阿拉伯船长的名字，因此就一错再错，得出了最早装备指南针的不是中国海船，而是阿拉伯海船的错误结论。实际上，中世纪时阿拉伯人海船船体狭小，根本无法容纳百余人。当时往来南中国海、印度洋和波斯湾之间的商船，能够容纳上百人的只有中国海船，连阿拉伯商人也经常搭乘中国海船。宋代与阿拉伯的海上贸易十分频繁，中国开往阿拉伯的大型船队有指南针导航，阿拉伯人是很容易从中国商船上学到指南针的用法的。

受战乱和锁国影响，近邻朝鲜日本竟最后获得指南针

虽然古代希腊、罗马的学者们很早就已知道了磁石能够吸铁的特性，但长时间不知道磁石的指向性。而当欧洲人最终了解并掌握这一自然现象时，已落后于中国人一千多年了。而以磁石制造罗盘指引航海，落后于中国300余年，用人造磁石导航晚于中国人100余年。值得注意的是，欧洲人在早期使用的航海罗盘，是与中国人同样的水罗盘，而且制作方法也与中国水罗盘几乎完全相同。这一系列的趋同现象，只能以技术传播来解释。

在13世纪前半叶之前，欧洲人还停留在对中国宋代指南针的仿制阶段。此时的欧洲人无论是在理论还是在实践方面，都没有什么太大的建树，没有超过中国宋代的罗盘应用水平。

13世纪后半期，通过法国实验物理学家皮埃尔的研究，欧洲的指南针开始了本土化的进程。随着中国旱罗盘传入欧洲，法国人又将旱罗盘改进，将其装入有玻璃罩的容器中，成为便携仪器。后来，这种携带方便的指南针被欧洲各国的水手广为应用。

没有指南针之前，航海只能使用观星的方法推算大概方位。指南针出现后，海员们不仅可以确定方位，有时甚至能推算出两地间的里程。从此，各国的远洋船队依据海图和罗盘所记载、测算出来的航线、航向和里程，安全地行走于茫茫海天之间。