Plusieurs limites dans l’utilisation des réseaux de neurones peuvent être retenues.

- L’architecture optimale.On mentionnera qu’il n’existe pas encore de théorie permettant de
déterminer la structure optimale d’un réseau. En particulier la détermination du nombre de couches cachées et du nombre de neurones sur chacune d’entre elle relève encore largement de l’intuition de l’utilisateur et de sa capacité à expérimenter plusieurs architectures afin de retenir celle qui donne les résultats les meilleurs. Plus le réseau est complexe, c’est-à-dire plus il comporte de neurones cachés et de liens synaptiques, plus il est capable de reconnaître les formes qui lui sont présentées à travers l’échantillon d’apprentissage.

Mais malheureusement, l’accroissement de la complexité n’améliore pas nécessairement le taux de reconnaissance sur l’échantillon test.
Il faut cependant remarquer que cette critique doit être nuancée, car plusieurs méthodes ont été proposées pour aider l’utilisateur dans cette tâche. Celles-ci s’appuient sur des techniques analytiques faisant intervenir la dimension du vecteur d’entrée, ou sur des algorithmes qui permettent soit la construction automatique pas à pas des couches cachées, soit l’élagage des connexions les moins pertinentes dans un réseau surdimensionné au départ.

- Le pouvoir explicatif des réseaux.Un réseau de neurones reste encore en partie aujourd’hui une « boîte noire » de laquelle il reste difficile d’extraire les relations pertinentes entre les variables. De ce point de vue, le système n’a donc qu’un pouvoir explicatif médiocre contrairement aux systèmes experts qui sont capables de retracer le cheminement suivi pour atteindre le résultat.Pourtant, le phénomène de « boîte noire » n’est pas total puisque des analyses de sensitivité sont possibles, en faisant varier l’une des entrées pas à pas, de sa valeur minimale vers sa valeur maximale, les autres entrées du réseau restant figées à leur valeur moyenne.

- L’intervention humaine.Comme cela a été signalé pour ce qui est du choix de l’architecture, ces
systèmes font toujours trop largement appel à l’intuition de l’utilisateur. En particulier, l’apprentissage est guidé par des paramètres qu’il convient de régler manuellement.
Un taux d’apprentissage (paramètre réglant la vitesse de convergence de l’algorithme) trop important peut aboutir à une oscillation du système alors qu’un taux trop faible se traduira par une convergence très lente, ce qui peut se révéler prohibitif en temps de calcul.
Par ailleurs, il revient encore à l’utilisateur de choisir le point d’arrêt de l’apprentissage de façon à ce que le réseau conserve ses capacités de généralisation.