1664年秋,牛顿开始研究微积分问题。当时,他反复阅读笛卡儿《几何学》,对笛卡儿求切线的“圆法”产生了浓厚的兴趣,并试图寻找更好的方法。就在此时,牛顿首创了小o记号,用它表示x的增量,它是一个趋于零的无穷小量。牛顿在家乡躲避瘟疫期间,继续探讨微积分并取得了突破性进展。据他自述,1665年11月发明“正流数术”(微分法),次年5月又建立了“反流数术”(积分法)。1666年10月,牛顿将前两年的研究成果整理成一篇总结性论文,现在称为《流数简论》。当时虽未正式发表,但在同事中传阅。《流数简论》是历史上第一篇系统的微积分文献。《流数简论》反映了牛顿微积分的运动学背景。该文事实上以速度形式引进了“流数”(即微商)的概念,虽然没有使用“流数”这一基本术语,但在其中提出了微积分的基本问题,用现在的数学语言可以表述如下:
牛顿指出,第一个问题是微分的问题,第二个问题的第一个问题的逆运算,并给出了相应的计算方法。在此基础上,建立了的“微积分基本定理”,它揭示了“导数和积分之间的内在联系”。当然,对微积分基本定理,并没有给出现代意义下的严格证明。在后来的著作中,对微积分基本定理,牛顿又给出了不依赖于运动学的较为清楚的证明。
在牛顿以前,面积总是被看成是无限小不可分量之和,牛顿则从确定面积变化率入手,通过反微分计算面积。这样,牛顿不仅揭示了面积计算与求切线问题的互逆关系,并且十分明确地把它作为一般规律揭示出来,从而建立了微积分普遍算法的基础。正如牛顿本人在《流数简论》中所说:一旦反微分问题可解,许多问题都将迎刃而解。自古希腊以来,人们得到了许多求解无限小问题的各种特殊技巧,牛顿将这些特殊技巧统一为两类普遍的算法——正、反流数术,即微分与积分,并证明了二者的互逆关系,进而,他将这两类运算统一成一个整体——微积分基本定理。这是他超越前人的功绩,正是在这样的意义下,我们说牛顿发明了微积分。在《流数简论》的其余部分,牛顿讨论了求曲线切线、曲率、拐点,求曲线长度、求曲线围成的面积,求引力与引力中心等16类问题。对这些问题的讨论,牛顿都是运用他建立的统一的算法来处理的,所有这些充分显示了牛顿创建的“微积分”算法的极大普遍性与系统性。从1667年起到1693年牛顿用了大约四分之一世纪的时间,从事微积分方面研究。牛顿始终不渝努力改进、完善自己的微积分学说,先后写成了三篇微积分论文:(1)1669年完成了《运用无限多项方程的分析》,简称《分析学》;
(2)1671年完成了《流数法与无穷级数》,简称《流数法》;
(3)1691年完成了《曲线求积术》,简称《求积术》。
牛顿对于发表自己的科学著作态度谨慎,他的大多数著作都是经朋友再三催促才拿出来发表。上述三篇论文发表都很晚,其中最先发表的是最后一篇《曲线求积术》;《分析学》发表于1771年;而《流数法》则迟至1736年才正式发表,当时牛顿已去世。
1687年,牛顿出版了他的力学名著《自然哲学的数学原理》,简称《原理》,在《原理》中,最早表述牛顿创立的微积分学说,因此,《原理》也成为数学史上的划时代著作。《原理》被爱因斯坦盛赞为“无比辉煌的演绎成就”。全书从三条基本的力学定律出发,运用微积分工具,严格地推导证明了包括开普勒行星运动三大定律、万有引力定律等在内的一系列结论,并且还将微积分应用于流体运动、声、光、潮汐、彗星乃至宇宙体系,充分显示了这一数学工具的威力。牛顿的科学贡献是多方面的。在数学上,除了微积分,他的代数名著《普遍算术》,包含了方程论的许多成果,如虚数根成对出现、笛卡儿符号法则的推广、根与系数的幂和公式等等;他的几何杰作《三次曲线枚举》,首创对三次曲线的分类研究,这是解析几何发展一个新的高峰;在数值分析领域,今天任何一本教程都不能不提牛顿的名字。