Entradas

Mostrando entradas de noviembre 5, 2017

Método del Gradiente.

Imagen
La mayoría de los algoritmos de aprendizaje profundo implican la optimización de algún tipo. La optimización se refiere a la tarea de minimizar o maximizar alguna función f (x) alterando x. Usualmente formulamos la mayoría de los problemas de optimización en términos de minimizar f (x). La maximización se puede lograr mediante un algoritmo de minimización minimizando -f (x). La derivada es útil para minimizar una función porque nos dice cómo cambiar x para hacer una pequeña mejora en y. Por ejemplo, nosotros sabemos que f (x - ε sign(f ‘ (x))) es menor que f (x) para un ε suficientemente pequeño. Podemos por lo tanto reducir f (x) moviendo x en pequeños pasos con el signo opuesto de la derivada. Esta es la técnica llamada gradiente descendente. (Cauchy, 1847). Cuando f '(x) = 0, la derivada no proporciona información sobre en qué dirección moverse. Los puntos donde f '(x) = 0 se conocen como puntos críticos o puntos estacionarios. Un mínimo local es un punto...

Undeflow y Overfolw

Los algoritmos de aprendizaje automático generalmente requieren una gran cantidad de cálculos numéricos. Esto se refiere a algoritmos que resuelven problemas matemáticos mediante métodos que actualizan las estimaciones de la solución a través de un proceso iterativo, en lugar de derivar analíticamente una fórmula que proporciona una expresión simbólica para la solución correcta. Tengamos en cuenta que incluso la simple evaluación de una función matemática en una computadora digital puede ser difícil cuando la función tiene números reales, ya que estos no pueden ser representados con precisión utilizando una cantidad finita de memoria. La dificultad fundamental para realizar operaciones matemáticas en una computadora digital es que necesitamos representar números reales de infinitas cifras decimales (irracionales) con un número finito de bits. Así, para casi todos los números se comete algún error de aproximación cuando se representa  representamos en la computadora. El pro...

Los Sistemas Númericos

Imagen
Un sistema numérico es un conjunto de símbolos y reglas provisto de dos operaciones que verifican ciertas condiciones relacionadas con las propiedades conmutativa, asociativa y distributiva. Los sistemas numéricos se caracterizan por tener una estructura algebraica (monoide, anillo, cuerpo, álgebra sobre un cuerpo), satisfacer propiedades de orden (orden total, buen orden) y propiedades topológicas y analíticas (densidad, metrizabilidad, completitud) adicionales. En esta entrada estudiaremos los sistemas numéricos decimal, binario, octal y hexadecimal, sus caracteristicas, aplicaciones y la manera de cambiar de un sistema a los demas. Sistema Decimal El sistema de numeración decimal, también llamado sistema decimal, es un sistema de numeración posicional en el que las cantidades se representan utilizando como base aritmética las potencias del número diez. El conjunto de símbolos utilizado (sistema de numeración arábiga) se compone de diez cifras : cero (0) , uno (1) , dos ...