Dado que muchos de estos sitios encontrados en google usan notación matemática y no tengo idea de lo que significa, quiero hacer una red neuronal feedforward como esta:
n1
i1 n3
n2 o1
i2 n4
n3
Ahora alguien puede explicarme cómo encontrar el valor de o1? ¿Cómo es posible activar una neurona cuando ninguna de sus entradas está activa?
Si ninguna de las entradas está activa, no obtendrá nada de la salida.
Ha pasado mucho tiempo desde que pasé un tiempo en esto, pero en el día, agregamos ruido a la ecuación. Esto puede ser en forma de entradas que siempre están activadas o agregando una pequeña cantidad aleatoria a cada entrada antes de empujarla hacia la red neuronal.
Curiosamente, se ha demostrado que el uso de ruido en redes neuronales tiene un análogo biológico. Si intenta escuchar algo y agrega un poco de ruido blanco, es más fácil escucharlo. lo mismo vale para ver.
En cuanto a su pregunta inicial: cómo averiguar el valor de o1 depende de ...
http://www.cheshireeng.com/Neuralyst/nnbg.htm
Tiene alguna información básica sobre las matemáticas.
Como la pregunta no es muy clara para mí ... Diré esto en caso de que sea lo que estás buscando:
Muchas veces se agrega una neurona de sesgo a la entrada y capas ocultas para permitir el caso que está mencionando. Esta neurona extra siempre está activa y se utiliza para manejar el caso cuando todas las demás neuronas de la capa están inactivas.
Esta pregunta es un buen ejemplo de por qué las "redes neuronales" hacen un trabajo tan increíblemente pobre emulando el comportamiento de las neuronas del mundo real. La mayoría de las neuronas reales tienen una tasa intrínseca (o "natural") en la que disparan potenciales de acción, sin aportes de las neuronas presinápticas. El efecto de las neuronas presinápticas casi siempre es acelerar o ralentizar esta tasa de activación intrínseca, no producir un único potencial de acción en la neurona postsináptica.
¿Por qué las "redes neuronales" típicamente no modelan este fenómeno? No sé, tendrías que preguntar a las personas para quienes " el enfoque inspirado en la biología ha sido más o menos abandonado para un enfoque más práctico basado en estadísticas y procesamiento de señales ".
