陀螺仪由1850年法国物理学家莱昂·傅科在研究地球自传中获得灵感而发明出来的，类似像是把一个高速旋转的陀螺放到一个万向支架上，靠陀螺的方向来计算角速度，和现在小巧的芯片造型大相径庭。
陀螺仪发明以后，首先被用在航海上（当年还没有发明飞机），后来被用在航空上。因为飞机飞在空中，是无法像地面一样靠肉眼辨认方向的，而飞行中方向都看不清楚危险性极高，所以陀螺仪迅速得到了应用，成为飞行仪表的核心。
到了第二次世界大战，各个国家都玩命的制造新式武器，德国人搞了飞弹去炸英国，这是今天导弹的雏形。从德国飞到英国，千里迢迢怎么让飞弹能飞到，还能落到目标呢？于是，德国人搞出来惯性制导系统。惯性制导系统采用用陀螺仪确定方向和角速度，用加速度计测试加速度，然后通过数学计算，就可以算出飞弹飞行的距离和路线，然后控制飞行姿态，争取让飞弹落到想去的地方。不过那时候计算机也好，仪器也好，精度都是不太够的，所以德国的飞弹偏差很大，想要炸伦敦，结果炸得到处都是，颇让英国人恐慌了一阵。
不过，从此以后，以陀螺仪为核心的惯性制导系统就被广泛应用于航空航天，今天的导弹里面依然有这套东西，而随着需求的刺激，陀螺仪也在不断进化。
传统的惯性陀螺仪主要是指机械式的陀螺仪，机械式的陀螺仪对工艺结构的要求很高，结构复杂，它的精度受到了很多方面的制约。
自从上个世纪七十年代以来，现代陀螺仪的发展已经进入了一个全新的阶段。1976年 等提出了现代光纤陀螺仪的基本设想，到八十年代以后，现代光纤陀螺仪就得到了非常迅速的发展，与此同时激光谐振陀螺仪也有了很大的发展。由于光纤陀螺仪具有结构紧凑，灵敏度高，工作可靠等等优点，所以目前光纤陀螺仪在很多的领域已经完全取代了机械式的传统的陀螺仪，成为现代导航仪器中的关键部件。
同时，激光陀螺仪也有突破，它通过光程差来测量旋转角速度，优点和光纤陀螺仪差不多，但成本高一些。
而我们现在智能手机上采用的陀螺仪是MEMS（微机电）陀螺仪，它精度并不如前面说到的光纤和激光陀螺仪，需要参考其他传感器的数据才能实现功能，但其体积小、功耗低、易于数字化和智能化，特别是成本低，易于批量生产，非常适合手机、汽车牵引控制系统、医疗器材这些需要大规模生产的设备。
