En el campo de las matemáticas, los estudios juveniles de Leibniz estuvieron dedicados sobre todo a la Aritmética: combinatoria, propiedades de los números, triángulo de Pascal, etc. Y sus primeras aportaciones también son en ese campo: fórmulas de análisis combinatorio, descubrimiento de los determinantes, estudio de la suma de series, etc. Uno de sus hallazgos es el valor de /4. También estudia el triángulo armónico y sus propiedades.

A partir de su estancia en París y su relación con Huygens estudiará los Elementos de Euclides y la Geometría de Descartes, al que criticará en muchas ocasiones, entre otras cosas por excluir de su geometría algunas curvas como las que tienen exponentes funcionales.
También se interesa por el cálculo de probabilidades, que en sus primeros escritos sobre derecho había mencionado como uno de los instrumentos más útiles para la investigación de lo contingente. Como subraya Belaval, uno de los grandes especialistas en Leibniz, ya había tenido la idea de un alfabeto de los pensamientos humanos meditando sobre Aristóteles, había desarrollado la idea con Bacon (las formas de primera clase semejantes a las letras del alfabeto), con Weigel y Hobbes (pensar, es calcular), con Buteo (las cadenas de combinaciones), con Cardano (la lógica de lo probable), Raimond Llull es entonces reeditado en toda Europa y Kircher acaba de publicar su texto Polygraphia nova et universales ex combinatoria detecta (1663). Como colofón a sus estudios de derecho había presentado Leibniz, en julio de 1665, la tesis o Disputatio Juridica De Conditionibus y en agosto una Disputatio Posterior, donde sostiene que las demostraciones o pruebas en derecho tendrían que tener un rigor matemático y proponiendo, en el caso de los juicios hipotéticos, el cálculo de probabilidades y el cálculo de los juicios, a pesar de que sus conocimientos matemáticos entonces no eran suficientes para realizarlos por sí mismo. Por fin, en marzo de 1666, sostiene la Disputatio Aritmética de Complexionibus, que formará parte de su Arte Combinatoria que como hemos dicho, publicó ese mismo año, a los 20 años de edad. La tesis de este escrito es que nuestros conceptos están compuestos de ideas simples, cuyo número no puede ser muy grande, como sucede con las letras del alfabeto o con los factores primos.

Estas ideas simples o primitivas constituyen los términos de primer orden (1. el punto; 2. el espacio; 3. “situado entre”; 9. la parte; 10. el todo; 14. el número; 15. la pluralidad, etc.). Combinándolas dos a dos (com2natio) se obtienen los términos de segundo orden, por ejemplo el número de las partes es la cantidad. Combinándolas de tres en tres tenemos las com3natio, por ejemplo el espacio tomado en un todo (2,3,10) es el intervalo y así sucesivamente. Recíprocamente, separando un término en sus factores primos, se pueden resolver problemas. De este modo la combinatoria se podría aplicar, como señala Leibniz a la lógica, la aritmética, la astronomía, la química, la medicina, la acústica, la jurisprudencia… A pesar de estos trabajos, el grado de doctor se le niega en Brunschwick a las jóvenes promociones, de manera que Leibniz se graduará finalmente en Altdorf el 15 de noviembre de 1666 con su trabajo De Casibus Perplexis in Jure, en el que desarrolla estas ideas aplicadas al derecho.

Pero Leibniz es conocido mundialmente sobre todo como inventor del Cálculo Diferencial, aunque ese descubrimiento se vio en su tiempo empañado por la injusta acusación de plagio por parte de algunos discípulos de Newton, acusación en la que se implicó el propio Newton. Hoy todos los estudiosos saben que ambos desarrollaron paralelamente el cálculo sin plagiarse. De hecho, la visión de Newton es más bien física, como lo atestigua su título de cálculo de fluxiones, mientras que la visión de Leibniz es sobre todo matemática.

Leibniz ya había desarrollado los principales aspectos del cálculo infinitesimal hacia 1676, al final de su estancia en París, y publicará en 1684 su primer artículo sobre el tema, en las Acta Eruditorum: “Nova methodus pro maximis et minimis”, donde proponía un método nuevo para calcular las tangentes a una curva y también los máximos y mínimos de la misma. Allí define lo que llama differentia o diferencial y lo escribe ya con la notación que perdurará, dx. También establece las reglas principales de cálculo con diferenciales, adición, sustracción, multiplicación y división, aunque sin dar las demostraciones. Y en cuanto al comportamiento local de las curvas, define la concavidad, convexidad y puntos de inflexión, lo que le lleva a definir las diferencias de segundo grado, que llama differentiae differentiarum. Su método, como él mismo señala, resulta superior a los existentes en esos momentos, no es geométrico, sino una forma de calcular con símbolos.
En junio de 1686 Leibniz publica un segundo artículo en Acta Eruditorum, con el título “De geometría recondita et analysi indivisibilium atque infinitorum” donde trataba el problema inverso de las tangentes y el cálculo de las cuadraturas mediante su nuevo método, y mostraba que la diferenciación y la integración son operaciones recíprocas, introduciendo el símbolo para la summation, pues el término integral no se emplea por primera vez hasta 1690, gracias a Jacques Bernoulli.
No obstante, estos logros no tendrán demasiada acogida y pasarán inadvertidos hasta 1690, cuando Bernoulli publica en las Acta Eruditorum un artículo en el que se emplea el nuevo cálculo para resolver el problema de la curva isócrona. Los hermanos Bernoulli continuaron desarrollando el nuevo cálculo y será Jean quien en 1691 se lo enseñará al Marquis de l’Hospital, que publicaría el primer tratado sobre cálculo diferencial en 1696. Como l’Hospital diría:

“Debo hacer aquí justicia (como la ha hecho el señor Leibnitz, en el Journal des Sçavans de agosto 1694) que el sabio Sir Isaac Newton descubrió igualmente algo como el Calculus Differentialis, que aparece en su excelente Principia, publicado primero en el año 1687, que depende casi totalmente del uso del mencionado Calculus. Pero el método del señor Leibnitz es mucho más fácil y expeditivo gracias a la notación que utiliza, por no mencionar la maravillosa asistencia que presta en muchas ocasiones.”

Efectivamente, la simbología matemática que ahora utilizamos es en buena parte debida a Leibniz: diferenciales primeras y segundas, integral, infinitesimales, etc. Introduce el término de función y señala que integral y derivada son dos operaciones inversas. Introduce el sistema binario de numeración, de innumerables aplicaciones posteriores, y tantos otros avances que ahora vamos descubriendo al descifrar sus manuscritos inéditos. .