Situación preliminar
Consideremos la situación preliminar mostrada en el siguiente applet de GeoGebra, en el que se aplica de nuevo la estrategia de la altura para obtener el lado desconocido de un triángulo.
El teorema del coseno proporciona una fórmula que permite resolver el problema anterior directamente. Su demostración consiste en reproducir en un caso general el proceso que se ha seguido en el ejemplo, como veremos a continuación.
Teorema del coseno
En un triángulo de lados \(a\), \(b\) y \(c\) y ángulos \(\alpha\), \(\beta\) y \(\gamma\) como se indica en la figura, se cumplen las siguientes relaciones:

\(a^2=b^2+c^2-2bc\cos\alpha\)
\(b^2=a^2+c^2-2ac\cos\beta\)
\(c^2=a^2+b^2-2ab\cos\gamma\)
Demostración
En el triángulo \(APC\):
\(\hspace{1em}\displaystyle\sin\alpha=\frac h b \Longrightarrow h=b\sin\alpha\)
\(\hspace{1em}\displaystyle\cos\alpha=\frac x b \Longrightarrow x=b\cos\alpha\)
Aplicando el teorema de Pitágoras en el triángulo \(BCP\):
\(\hspace{1em} a^2=h^2+(c-x)^2=\)
\(\hspace{2em}=b^2\sin^2\alpha+(c-b\cos\alpha)^2=\)
\(\hspace{2em}=b^2\sin^2\alpha+c^2-2bc\cos\alpha+b^2\cos^2\alpha=\)
\(\hspace{2em}=b^2\sin^2\alpha+b^2\cos^2\alpha+c^2-2bc\cos\alpha=\)
\(\hspace{2em}=b^2(\sin^2\alpha+\cos^2\alpha)+c^2-2bc\cos\alpha=\)
\(\hspace{2em}=b^2+c^2-2bc\cos\alpha\)
Observaciones:
1) La demostración anterior es válida para el caso en que los ángulos \(\alpha\) y \(\beta\) son agudos. La misma demostración con ligeras modificaciones serviría para los casos en que \(\alpha\ge 90^\mbox{o}\) ó \(\beta\ge 90^\mbox{o}\).

2) Sólo se ha demostrado una de las igualdades del teorema. Como se ha indicado en la demostración, las demás igualdades se demuestran de forma análoga.
3) El teorema del coseno es una generalización del teorema de Pitágoras:
Considerando la fórmula \(a^2=b^2+c^2-2bc\cos\alpha\), si mantenemos \(b\) y \(c\) fijos y variamos \(\alpha\), obtenemos un triángulo para el que podemos interpretar el término \(2bc\cos\alpha\) como lo que hay que quitar al cuadrado de la hipotenusa del triángulo rectángulo de catetos \(b\) y \(c\) para igualar a \(a^2\).
Pueden darse tres posibilidades:
- \(\alpha=90^\mbox{o}\): \(\hspace{1em} 2bc\cos\alpha=0\) y el triángulo es rectángulo (cumple el teorema de Pitágoras).
- \(\alpha<90^\mbox{o}\): \(\hspace{1em} 2bc\cos\alpha>0\) y el lado \(a\) del triángulo es menor que la hipotenusa del triángulo rectángulo de catetos \(b\) y \(c\).
- \(\alpha>90^\mbox{o}\): \(\hspace{1em} 2bc\cos\alpha<0\) y el lado \(a\) del triángulo es mayor que la hipotenusa del triángulo rectángulo de catetos \(b\) y \(c\).
El siguiente applet de GeoGebra muestra de manera dinámica lo que se acaba de exponer.
4) El teorema del coseno permite calcular tanto lados como ángulos. En el caso de ángulos, éstos pueden obtenerse de forma inequívoca ya que la función arco coseno proporciona un ángulo entre \(0^\mbox{o}\) y \(180^\mbox{o}\).