Toutes les mathématiques que vous devez connaître en intelligence artificielle

Article original : All the Math You Need to Know in Artificial Intelligence

Je suis un chercheur en IA, et j'ai reçu plusieurs emails me demandant combien de mathématiques sont nécessaires en intelligence artificielle.

Je ne vais pas mentir : il y a beaucoup de mathématiques.

Et c'est l'une des raisons pour lesquelles l'IA décourage de nombreux débutants. Après de nombreuses recherches et discussions avec plusieurs vétérans du domaine, j'ai compilé ce guide sans détours qui couvre toutes les bases des mathématiques que vous devez connaître.

Les concepts mentionnés ci-dessous sont généralement couverts sur plusieurs semestres à l'université, mais je les ai réduits aux principes fondamentaux sur lesquels vous pouvez vous concentrer.

Ce guide est un véritable sauveur pour les débutants, afin que vous puissiez étudier les sujets qui comptent le plus. Mais c'est une ressource encore meilleure pour les praticiens, comme moi, qui ont besoin d'un rappel rapide sur ces concepts.

Note : Vous n'avez pas besoin de connaître tous les concepts (ci-dessous) pour obtenir votre premier emploi en IA. Tout ce dont vous avez besoin est une bonne maîtrise des fondamentaux. Concentrez-vous sur ceux-ci et consolidez-les.

1. Algèbre que vous devez connaître pour l'IA

La connaissance de l'algèbre est peut-être fondamentale pour les mathématiques en général. En plus des opérations mathématiques comme l'addition, la soustraction, la multiplication et la division, vous devrez connaître les éléments suivants :

• Exposants

• Radicaux

• Factorielles

• Sommations

• Notations scientifiques

2. Algèbre linéaire que vous devez connaître pour l'IA

L'algèbre linéaire est l'outil de calcul mathématique principal en intelligence artificielle et dans de nombreux autres domaines de la science et de l'ingénierie. Dans ce domaine, vous devez comprendre 4 objets mathématiques principaux et leurs propriétés :

• Scalaires — un seul nombre (peut être réel ou naturel).

• Vecteurs — une liste de nombres, disposés dans un ordre. Considérez-les comme des points dans l'espace, chaque élément représentant la coordonnée le long d'un axe.

• Matrices — un tableau 2-D de nombres où chaque nombre est identifié par 2 indices.

• Tenseurs — un tableau N-D (N>2) de nombres, disposés sur une grille régulière avec N axes. Important en apprentissage automatique, en apprentissage profond et en vision par ordinateur.

• Vecteurs propres et valeurs propres — vecteurs spéciaux et leur quantité scalaire correspondante. Comprenez leur signification et comment les trouver.

• Décomposition en valeurs singulières — factorisation d'une matrice en 3 matrices. Comprenez les propriétés et les applications.

• Analyse en composantes principales (ACP) — comprenez la signification, les propriétés et les applications.

Les propriétés telles que le produit scalaire, le produit vectoriel et le produit de Hadamard sont également utiles à connaître.

3. Calcul que vous devez connaître pour l'IA

Le calcul traite des changements de paramètres, de fonctions, d'erreurs et d'approximations. Une connaissance pratique du calcul multidimensionnel est impérative en intelligence artificielle.

Les concepts suivants sont les plus importants (bien que non exhaustifs) en calcul :

• Dérivées — règles (addition, produit, règle de la chaîne, etc.), dérivées hyperboliques (tanh, cosh, etc.) et dérivées partielles.

• Calcul vectoriel/matriciel — différents opérateurs dérivés (Gradient, Jacobien, Hessien et Laplacien).

• Algorithmes de gradient — maxima/minima locaux/globaux, points de selle, fonctions convexes, lots et mini-lots, descente de gradient stochastique et comparaison de performances.

4. Concepts de statistiques et de probabilité que vous devez connaître pour l'IA

Ce sujet prendra probablement une part importante de votre temps. Bonne nouvelle : ces concepts ne sont pas difficiles, donc il n'y a aucune raison pour que vous ne les maîtrisiez pas.

• Statistiques de base — Moyenne, médiane, mode, variance, covariance, etc.

• Règles de base en probabilité — événements (dépendants et indépendants), espaces d'échantillonnage, probabilité conditionnelle.

• Variables aléatoires — continues et discrètes, espérance, variance, distributions (jointes et conditionnelles).

• Théorème de Bayes — calcule la validité des croyances. Les logiciels bayésiens aident les machines à reconnaître des motifs et à prendre des décisions.

• Estimation par maximum de vraisemblance (MLE) — estimation de paramètres. Nécessite la connaissance des concepts fondamentaux de probabilité (probabilité jointe et indépendance des événements).

• Distributions courantes — binomiale, poisson, bernoulli, gaussienne, exponentielle.

5. Concepts de théorie de l'information que vous devez connaître pour l'IA

C'est un domaine important qui a apporté des contributions significatives à l'IA et à l'apprentissage profond, et qui est encore inconnu de beaucoup. Considérez-le comme un amalgame de calcul, de statistiques et de probabilité.

• Entropie — également appelée entropie de Shannon. Utilisée pour mesurer l'incertitude dans une expérience.

• Entropie croisée — compare deux distributions de probabilité et nous indique à quel point elles sont similaires.

• Divergence de Kullback-Leibler — une autre mesure de la similarité entre deux distributions de probabilité.

• Algorithme de Viterbi — largement utilisé en traitement du langage naturel (NLP) et en reconnaissance vocale.

• Encodeur-Décodeur — utilisé dans les RNN de traduction automatique et autres modèles.

Les mathématiques, c'est amusant !

Si vous êtes terrifié à la simple mention des "mathématiques", vous ne risquez pas de vous amuser beaucoup en intelligence artificielle.

Mais si vous êtes prêt à investir du temps pour améliorer votre familiarité avec les principes sous-jacents du calcul, de l'algèbre linéaire, des statistiques et des probabilités, rien — pas même les mathématiques — ne devrait vous empêcher de vous lancer dans l'IA.

PS : Les mathématiques sont vraiment amusantes. À mesure que vous approfondissez les mathématiques, assurez-vous de comprendre la beauté d'un certain concept mathématique et comment il affecte quelque chose. Vous partagerez bientôt la passion débridée que de nombreux mathématiciens et scientifiques de l'IA ont !

Un conseil : Traitez les concepts mathématiques comme un paiement à l'usage : chaque fois qu'un concept étranger apparaît, saisissez-le et dévorez-le ! Le guide ci-dessus présente une ressource minimale, mais complète, pour comprendre tout type de sujet ou de concept en IA.

Bon apprentissage !