sirven redes que programacion para neuronales las inteligencia funciones estadistica ejemplos artificial aplicaciones actualidad activacion neural-network
here

neural network - que - ¿Cuáles son algunos buenos recursos para aprender sobre redes neuronales artificiales?



redes neuronales programacion (16)

Antes que nada, renuncie a cualquier noción de que las redes neuronales artificiales tengan algo que ver con el cerebro, sino una similitud pasajera con las redes de neuronas biológicas. La biología del aprendizaje no lo ayudará a aplicar de manera efectiva las redes neuronales; aprender álgebra lineal, cálculo y teoría de la probabilidad. Al menos debe familiarizarse con la idea de la diferenciación básica de funciones, la regla de la cadena, las derivadas parciales (el gradiente, el jacobiano y el hessiano) y comprender la multiplicación y la diagonalización de la matriz.

Realmente lo que estás haciendo cuando entrenas una red es optimizar una función grande y multidimensional (minimizando tu error con respecto a cada uno de los pesos en la red), por lo que una investigación de técnicas para la optimización numérica no lineal puede resultar instructiva. Este es un problema ampliamente estudiado con una gran base de literatura fuera de las redes neuronales, y hay muchas notas de conferencias en optimización numérica disponibles en la web. Para empezar, la mayoría de las personas usan un descenso simple de gradiente , pero esto puede ser mucho más lento y menos efectivo que otros métodos más matizados como

Una vez que tenga las ideas básicas abajo puede comenzar a experimentar con diferentes funciones de "aplastamiento" en su capa oculta, agregando varios tipos de regularización y varios ajustes para hacer que el aprendizaje sea más rápido. Vea este documento para una lista completa de "mejores prácticas".

Uno de los mejores libros sobre el tema es Redes neuronales de Chris Bishop para el reconocimiento de patrones . Ya es bastante viejo para esta etapa, pero sigue siendo un recurso excelente, y a menudo puede encontrar copias usadas en línea por alrededor de $ 30. El capítulo sobre redes neuronales en su libro más reciente, Reconocimiento de patrones y Aprendizaje automático , también es bastante completo. Para un tutorial particularmente bueno centrado en la implementación, vea este en CodeProject.com que implementa una especie de red inteligente llamada red convolucional, que restringe la conectividad de tal manera que es muy útil para aprender a clasificar patrones visuales.

Las máquinas de vectores de soporte y otros métodos de kernel se han vuelto muy populares porque puedes aplicarlos sin saber qué demonios estás haciendo ya menudo obtienes resultados aceptables. Las redes neuronales, por otro lado, son enormes problemas de optimización que requieren un ajuste cuidadoso, aunque siguen siendo preferibles para muchos problemas, particularmente problemas a gran escala en dominios como la visión artificial.

Estoy realmente interesado en las Redes Neuronales Artificiales, pero estoy buscando un lugar para comenzar.

¿Qué recursos hay y qué es un buen proyecto inicial?

Creo que un buen punto de partida sería siempre Wikipedia . Allí encontrará algunos enlaces útiles para documentaciones y proyectos que también usan redes neuronales.

Encontré el libro de texto "Inteligencia Computacional" increíblemente útil.

Estoy de acuerdo con las otras personas que dijeron que estudiar biología no es un buen punto de partida ... porque hay mucha información irrelevante en biología. No es necesario que comprenda cómo funciona una neurona para recrear su funcionalidad, solo necesita simular sus acciones. Recomiendo "Cómo crear una mente" de Ray Kurzweil: aborda el aspecto de la biología que es relevante para los modelos computacionales (crear una neurona simulada combinando varias entradas y disparar una vez que se alcanza el umbral) pero ignora las cosas irrelvantes como cómo la neurona en realidad agrega esas entradas a tu cerebro. (Usará simplemente + y una desigualdad para comparar con un umbral, por ejemplo)

También debo señalar que el libro no trata realmente sobre "crear una mente", sino que se centra únicamente en el reconocimiento de patrones jerárquicos / la neocorteza. Se ha hablado del tema general desde la década de 1980, creo que hay muchos libros más antiguos que probablemente contengan formas ligeramente anticuadas de la misma información. He leído documentos anteriores que indican que el sistema de visión, por ejemplo, es un reconocedor de patrones de varias capas. Él sostiene que esto se aplica a toda la neocorteza. Además, tome sus ''predicciones'' con un grano de sal: sus estimaciones de hardware son probablemente bastante precisas, pero creo que subestima lo complicadas que pueden ser las tareas simples (por ejemplo, conducir un automóvil). De acuerdo, ha visto muchos progresos (y ha sido parte de algunos de ellos), pero todavía creo que es demasiado optimista. Hay una gran diferencia entre que un auto de IA sea capaz de conducir una milla con éxito el 90% del tiempo, en comparación con el 99.9% que puede hacer un ser humano. No espero que ninguna IA realmente esté conduciéndome durante al menos 20 años ... (No cuento los autos BMW Track Track que necesitan ser ''entrenados'' en el curso real, ya que no están jugando realmente lo mismo juego)

Si ya tiene una idea básica de qué es AI y cómo se puede modelar, es mejor que salte a algo más técnico.

Las redes neuronales son una especie de declasse en estos días. Las máquinas de vectores de soporte y los métodos de núcleo son mejores para más clases de problemas que para la posterior propagación. Las redes neuronales y los algoritmos genéticos capturan la imaginación de las personas que no saben mucho sobre el aprendizaje moderno de máquinas, pero no son lo último en tecnología.

Si desea obtener más información sobre la IA y el aprendizaje automático, le recomiendo leer la Inteligencia artificial de Peter Norvig : un enfoque moderno . Es una amplia encuesta de AI y mucha tecnología moderna. También repasa la historia y las técnicas más antiguas, y le proporcionará una base más completa en lo básico de la IA y el aprendizaje automático.

Las redes neuronales son bastante fáciles, sin embargo. Especialmente si usa un algoritmo genético para determinar los pesos, en lugar de una retroexpansión adecuada.

Puedo recomendar dónde no comenzar. Compré An Introduction to Neural Networks de Kevin Gurney, que tiene buenas críticas en Amazon y afirma ser una "introducción muy accesible a uno de los temas más importantes de la ciencia cognitiva y de la informática". Personalmente, no recomendaría este libro como inicio. Solo puedo comprender un 10%, pero tal vez soy solo yo (el inglés no es mi lengua materna). Voy a buscar otras opciones de este hilo.

Recomiendo encarecidamente esta excelente serie de Anoop Madhusudanan en Code Project .

Le muestra los fundamentos para comprender cómo funcionan de una manera fácil de entender y le muestra cómo usar su biblioteca de brainnet para crear la suya propia.

Si desea aprender rápidamente sobre las aplicaciones de algunos conceptos de redes neuronales en un simulador real, hay un gran libro en línea (ahora wiki) llamado ''Neurociencia Cognitiva Computacional'' en http://grey.colorado.edu/CompCogNeuro/index.php/CCNBook/Main

El libro se usa en las escuelas como un libro de texto, y lo lleva a través de muchas áreas diferentes del cerebro, desde neuronas individuales hasta el funcionamiento ejecutivo de orden superior.

Además, cada sección se complementa con ''proyectos'' que ya están listos para usted. Solo descargue, siga los pasos y simule todo lo que el capítulo mencionó. El software que usan, Emergent, es un poco quisquilloso pero increíblemente robusto: creo que es el producto de más de 10 años de trabajo.

Lo revisé en una clase de pregrado el semestre pasado, y fue genial. Te muestra todo paso a paso

Si no te importa gastar dinero, The Handbook of Brain Theory y Neural Networks es muy bueno. Contiene 287 artículos que cubren la investigación en muchas disciplinas. Comienza con una introducción y teoría y luego resalta las rutas a través de los artículos para cubrir mejor sus intereses.

En cuanto a un primer proyecto, los mapas Kohonen son interesantes para la categorization : encuentre relaciones ocultas en su colección de música, cree un robot inteligente o resuelva el premio Netflix .

La Inteligencia Colectiva de Programación discute esto en el contexto de los algoritmos de Búsqueda y Clasificación. Además, en el código disponible here (en el capítulo 4), los conceptos discutidos en el libro se ilustran en un ejemplo de Python.

http://www.ai-junkie.com/ann/evolved/nnt1.html es una clara introducción al perceptrón de múltiples capas, aunque no describe el algoritmo de backpropagation

También puedes echarle un vistazo a generation5.org que ofrece muchos artículos sobre AI en general y tiene algunos excelentes textos sobre redes neuronales

Apoyo la recomendación de dwf de Neural Networks para Pattern Recognition por Chris Bishop. Aunque, quizás no sea un texto inicial. Norvig o un tutorial en línea (¡con código en Matlab!) Probablemente sería una introducción más amable.

Un buen proyecto inicial sería OCR (Reconocimiento óptico de caracteres). Puede escanear en páginas de texto y alimentar a cada personaje a través de la red para realizar la clasificación. (¡Primero tendría que entrenar a la red!).