Algorithmes gloutons : l'art de faire des choix localement optimaux pour des solutions globales

Dans le vaste monde de l'informatique et de la résolution de problèmes, nous sommes constamment à la recherche d'efficacité. Nous voulons des algorithmes qui sont non seulement corrects, mais aussi rapides et efficaces en termes de ressources. Parmi les différents paradigmes de conception d'algorithmes, l'approche gloutonne se distingue par sa simplicité et son élégance. À la base, un algorithme glouton fait le choix qui semble le meilleur sur le moment. Il s'agit d'une stratégie consistant à faire un choix localement optimal dans l'espoir que cette série d'optima locaux conduira à une solution globalement optimale.

Mais quand cette approche intuitive et à courte vue fonctionne-t-elle réellement ? Et quand nous conduit-elle sur une voie loin d'être optimale ? Ce guide complet explorera la philosophie qui sous-tend les algorithmes gloutons, passera en revue des exemples classiques, mettra en évidence leurs applications concrètes et clarifiera les conditions critiques dans lesquelles ils réussissent.

La philosophie de base d'un algorithme glouton

Imaginez que vous êtes un caissier chargé de rendre la monnaie à un client. Vous devez fournir un montant spécifique en utilisant le moins de pièces possible. Intuitivement, vous commencerez par donner la pièce de plus grande dénomination (par exemple, un quart de dollar) qui ne dépasse pas le montant requis. Vous répéterez ce processus avec le montant restant jusqu'à ce que vous atteigniez zéro. C'est la stratégie gloutonne en action. Vous faites le meilleur choix disponible immédiatement sans vous soucier des conséquences futures.

Cet exemple simple révèle les principaux composants d'un algorithme glouton :

• Ensemble de candidats : Un ensemble d'éléments ou de choix à partir desquels une solution est créée (par exemple, l'ensemble des dénominations de pièces disponibles).
• Fonction de sélection : La règle qui décide du meilleur choix à faire à chaque étape. C'est le cœur de la stratégie gloutonne (par exemple, choisir la plus grande pièce).
• Fonction de faisabilité : Une vérification pour déterminer si un choix candidat peut être ajouté à la solution actuelle sans violer les contraintes du problème (par exemple, la valeur de la pièce n'est pas supérieure au montant restant).
• Fonction objectif : La valeur que nous essayons d'optimiser — soit maximiser, soit minimiser (par exemple, minimiser le nombre de pièces utilisées).
• Fonction de solution : Une fonction qui détermine si nous avons atteint une solution complète (par exemple, le montant restant est nul).

Quand être glouton fonctionne-t-il réellement ?

Le plus grand défi avec les algorithmes gloutons est de prouver leur exactitude. Un algorithme qui fonctionne pour un ensemble d'entrées peut échouer de manière spectaculaire pour un autre. Pour qu'un algorithme glouton soit prouvé optimal, le problème qu'il résout doit généralement présenter deux propriétés clés :

1. Propriété du choix glouton : Cette propriété stipule qu'une solution globalement optimale peut être atteinte en faisant un choix localement optimal (glouton). En d'autres termes, le choix fait à l'étape actuelle ne nous empêche pas d'atteindre la meilleure solution globale. L'avenir n'est pas compromis par le choix actuel.
2. Sous-structure optimale : Un problème a une sous-structure optimale si une solution optimale au problème global contient en son sein des solutions optimales à ses sous-problèmes. Après avoir fait un choix glouton, il nous reste un sous-problème plus petit. La propriété de sous-structure optimale implique que si nous résolvons ce sous-problème de manière optimale et que nous le combinons avec notre choix glouton, nous obtenons l'optimum global.

Si ces conditions sont remplies, une approche gloutonne n'est pas seulement une heuristique ; c'est une voie garantie vers la solution optimale. Voyons cela en action avec quelques exemples classiques.

Exemples classiques d'algorithmes gloutons expliqués

Exemple 1 : Le problème de la monnaie

Comme nous l'avons vu, le problème de la monnaie est une introduction classique aux algorithmes gloutons. L'objectif est de rendre la monnaie pour un certain montant en utilisant le moins de pièces possible d'un ensemble donné de dénominations.

L'approche gloutonne : À chaque étape, choisissez la plus grande dénomination de pièce qui est inférieure ou égale au montant restant dû.

Quand cela fonctionne : Pour les systèmes de pièces canoniques standard, comme le dollar américain (1, 5, 10, 25 cents) ou l'euro (1, 2, 5, 10, 20, 50 cents), cette approche gloutonne est toujours optimale. Faisons la monnaie pour 48 cents :

1. Montant : 48. La plus grande pièce ≤ 48 est 25. Prenez une pièce de 25 c. Restant : 23.
2. Montant : 23. La plus grande pièce ≤ 23 est 10. Prenez une pièce de 10 c. Restant : 13.
3. Montant : 13. La plus grande pièce ≤ 13 est 10. Prenez une pièce de 10 c. Restant : 3.
4. Montant : 3. La plus grande pièce ≤ 3 est 1. Prenez trois pièces de 1 c. Restant : 0.

La solution est {25, 10, 10, 1, 1, 1}, soit un total de 6 pièces. C'est en effet la solution optimale.

Quand cela échoue : Le succès de la stratégie gloutonne dépend fortement du système de pièces. Considérez un système avec les dénominations {1, 7, 10}. Faisons la monnaie pour 15 cents.

• Solution gloutonne :
  1. Prenez une pièce de 10 c. Restant : 5.
  2. Prenez cinq pièces de 1 c. Restant : 0.
  Total des pièces : 1 (10 c) + 5 (1 c) = 6 pièces.
• Solution optimale :
  1. Prenez une pièce de 7 c. Restant : 8.
  2. Prenez une pièce de 7 c. Restant : 1.
  3. Prenez une pièce de 1 c. Restant : 0.
  Total des pièces : 2 (7 c) + 1 (1 c) = 3 pièces.

Ce contre-exemple démontre une leçon cruciale : un algorithme glouton n'est pas une solution universelle. Sa justesse doit être évaluée pour chaque contexte de problème spécifique. Pour ce système de pièces non canonique, une technique plus puissante comme la programmation dynamique serait nécessaire pour trouver la solution optimale.

Exemple 2 : Le problème du sac à dos fractionnaire

Ce problème présente un scénario où un voleur a un sac à dos avec une capacité de poids maximale et trouve un ensemble d'articles, chacun avec son propre poids et sa propre valeur. Le but est de maximiser la valeur totale des articles dans le sac à dos. Dans la version fractionnaire, le voleur peut prendre des parties d'un article.

L'approche gloutonne : La stratégie gloutonne la plus intuitive est de donner la priorité aux articles les plus précieux. Mais précieux par rapport à quoi ? Un article volumineux et lourd peut être précieux, mais prendre trop de place. L'idée clé est de calculer le rapport valeur/poids (valeur/poids) pour chaque article.

La stratégie gloutonne est la suivante : À chaque étape, prenez autant que possible de l'article avec le rapport valeur/poids restant le plus élevé.

Exemple pas à pas :

• Capacité du sac à dos : 50 kg
• Articles :
  • Article A : 10 kg, valeur de 60 $ (rapport : 6 $/kg)
  • Article B : 20 kg, valeur de 100 $ (rapport : 5 $/kg)
  • Article C : 30 kg, valeur de 120 $ (rapport : 4 $/kg)

Étapes de la solution :

1. Triez les articles par rapport valeur/poids par ordre décroissant : A (6), B (5), C (4).
2. Prenez l'article A. Il a le rapport le plus élevé. Prenez les 10 kg. Le sac à dos contient maintenant 10 kg, valeur de 60 $. Capacité restante : 40 kg.
3. Prenez l'article B. Il est le suivant. Prenez les 20 kg. Le sac à dos contient maintenant 30 kg, valeur de 160 $. Capacité restante : 20 kg.
4. Prenez l'article C. Il est le dernier. Il nous reste seulement 20 kg de capacité, mais l'article pèse 30 kg. Nous prenons une fraction (20/30) de l'article C. Cela ajoute 20 kg de poids et (20/30) * 120 $ = 80 $ de valeur.

Résultat final : Le sac à dos est plein (10 + 20 + 20 = 50 kg). La valeur totale est de 60 $ + 100 $ + 80 $ = 240 $. C'est la solution optimale. La propriété du choix glouton est respectée, car en prenant toujours la valeur la plus « dense » en premier, nous nous assurons de remplir notre capacité limitée aussi efficacement que possible.

Exemple 3 : Problème de sélection d'activité

Imaginez que vous disposez d'une seule ressource (comme une salle de réunion ou un amphithéâtre) et d'une liste d'activités proposées, chacune avec une heure de début et de fin spécifique. Votre objectif est de sélectionner le nombre maximum d'activités mutuellement exclusives (non chevauchantes).

L'approche gloutonne : Quel serait un bon choix glouton ? Devrions-nous choisir l'activité la plus courte ? Ou celle qui commence le plus tôt ? La stratégie optimale prouvée consiste à trier les activités en fonction de leurs heures de fin par ordre croissant.

L'algorithme est le suivant :

1. Triez toutes les activités en fonction de leurs heures de fin.
2. Sélectionnez la première activité de la liste triée et ajoutez-la à votre solution.
3. Parcourez le reste des activités triées. Pour chaque activité, si son heure de début est supérieure ou égale à l'heure de fin de l'activité sélectionnée précédemment, sélectionnez-la et ajoutez-la à votre solution.

Pourquoi cela fonctionne-t-il ? En choisissant l'activité qui se termine le plus tôt, nous libérons la ressource le plus rapidement possible, maximisant ainsi le temps disponible pour les activités suivantes. Ce choix semble localement optimal, car il laisse le plus d'opportunités pour l'avenir, et il peut être prouvé que cette stratégie mène à un optimum global.

Où les algorithmes gloutons brillent : applications concrètes

Les algorithmes gloutons ne sont pas que des exercices académiques ; ils sont l'épine dorsale de nombreux algorithmes bien connus qui résolvent des problèmes critiques en matière de technologie et de logistique.

L'algorithme de Dijkstra pour les chemins les plus courts

Lorsque vous utilisez un service GPS pour trouver l'itinéraire le plus rapide de votre domicile à une destination, vous utilisez probablement un algorithme inspiré de Dijkstra. C'est un algorithme glouton classique pour trouver les chemins les plus courts entre les nœuds d'un graphe pondéré.

Comment il est glouton : L'algorithme de Dijkstra maintient un ensemble de sommets visités. À chaque étape, il sélectionne de manière gloutonne le sommet non visité le plus proche de la source. Il suppose que le chemin le plus court vers ce sommet le plus proche a été trouvé et ne sera pas amélioré plus tard. Cela fonctionne pour les graphes avec des pondérations d'arêtes non négatives.

Les algorithmes de Prim et de Kruskal pour les arbres couvrants minimaux (ACM)

Un arbre couvrant minimal est un sous-ensemble des arêtes d'un graphe connexe et pondéré en arêtes qui relie tous les sommets, sans aucun cycle et avec le poids total des arêtes le plus faible possible. Ceci est extrêmement utile dans la conception de réseaux, par exemple, pour la mise en place d'un réseau de câbles à fibre optique pour connecter plusieurs villes avec le minimum de câbles.

• L'algorithme de Prim est glouton, car il développe l'ACM en ajoutant un sommet à la fois. À chaque étape, il ajoute l'arête la moins chère possible qui connecte un sommet de l'arbre en croissance à un sommet extérieur à l'arbre.
• L'algorithme de Kruskal est également glouton. Il trie toutes les arêtes du graphe par poids par ordre non décroissant. Il parcourt ensuite les arêtes triées, en ajoutant une arête à l'arbre si et seulement si elle ne forme pas un cycle avec les arêtes déjà sélectionnées.

Les deux algorithmes font des choix localement optimaux (choisir l'arête la moins chère) qui sont prouvés pour conduire à un ACM globalement optimal.

Codage de Huffman pour la compression de données

Le codage de Huffman est un algorithme fondamental utilisé dans la compression de données sans perte, que vous rencontrez dans des formats tels que les fichiers ZIP, les JPEG et les MP3. Il attribue des codes binaires de longueur variable aux caractères d'entrée, les longueurs des codes attribués étant basées sur les fréquences des caractères correspondants.

Comment il est glouton : L'algorithme construit un arbre binaire de bas en haut. Il commence par traiter chaque caractère comme un nœud feuille. Il prend ensuite de manière gloutonne les deux nœuds avec les fréquences les plus faibles, les fusionne en un nouveau nœud interne dont la fréquence est la somme de celles de ses enfants, et répète ce processus jusqu'à ce qu'il ne reste qu'un seul nœud (la racine). Cette fusion gloutonne des caractères les moins fréquents garantit que les caractères les plus fréquents ont les codes binaires les plus courts, ce qui se traduit par une compression optimale.

Les pièges : quand ne pas être glouton

Le pouvoir des algorithmes gloutons réside dans leur rapidité et leur simplicité, mais cela a un coût : ils ne fonctionnent pas toujours. Reconnaître quand une approche gloutonne est inappropriée est aussi important que de savoir quand l'utiliser.

Le scénario d'échec le plus courant est lorsqu'un choix localement optimal empêche une meilleure solution globale ultérieurement. Nous l'avons déjà vu avec le système de pièces non canonique. D'autres exemples célèbres incluent :

• Le problème du sac à dos 0/1 : Il s'agit de la version du problème du sac à dos où vous devez prendre un article entièrement ou pas du tout. La stratégie gloutonne du rapport valeur/poids peut échouer. Imaginez avoir un sac à dos de 10 kg. Vous avez un article pesant 10 kg d'une valeur de 100 $ (rapport 10) et deux articles pesant chacun 6 kg d'une valeur de 70 $ chacun (rapport ~ 11,6). Une approche gloutonne basée sur le rapport prendrait l'un des articles de 6 kg, laissant 4 kg d'espace, pour une valeur totale de 70 $. La solution optimale consiste à prendre le seul article de 10 kg pour une valeur de 100 $. Ce problème nécessite une programmation dynamique pour une solution optimale.
• Le problème du voyageur de commerce (PVC) : Le but est de trouver l'itinéraire le plus court possible qui visite un ensemble de villes et revient au point de départ. Une approche gloutonne simple, appelée l'heuristique du « plus proche voisin », consiste à toujours se rendre dans la ville non visitée la plus proche. Bien que cela soit rapide, cela produit fréquemment des circuits significativement plus longs que l'optimal, car un choix précoce peut forcer de très longs trajets plus tard.

Glouton contre autres paradigmes algorithmiques

Comprendre comment les algorithmes gloutons se comparent à d'autres techniques donne une image plus claire de leur place dans votre boîte à outils de résolution de problèmes.

Glouton contre programmation dynamique (PD)

C'est la comparaison la plus cruciale. Les deux techniques s'appliquent souvent aux problèmes d'optimisation avec une sous-structure optimale. La principale différence réside dans le processus de prise de décision.

• Glouton : Fait un choix — celui qui est localement optimal — puis résout le sous-problème résultant. Il ne reconsidère jamais ses choix. C'est une voie descendante à sens unique.
• Programmation dynamique : Explore tous les choix possibles. Il résout tous les sous-problèmes pertinents, puis choisit la meilleure option parmi eux. C'est une approche ascendante qui utilise souvent la mémorisation ou la tabulation pour éviter de recalculer les solutions aux sous-problèmes.

Essentiellement, la PD est plus puissante et robuste, mais elle est souvent plus coûteuse en termes de calcul. Utilisez un algorithme glouton si vous pouvez prouver qu'il est correct ; sinon, la PD est souvent le pari le plus sûr pour les problèmes d'optimisation.

Glouton contre force brute

La force brute consiste à essayer toutes les combinaisons possibles pour trouver la solution. Elle est garantie d'être correcte, mais est souvent lente de manière infaisable pour des tailles de problèmes non triviales (par exemple, le nombre de circuits possibles dans le PVC croît factoriellement). Un algorithme glouton est une forme d'heuristique ou de raccourci. Il réduit considérablement l'espace de recherche en s'engageant dans un seul choix à chaque étape, ce qui le rend beaucoup plus efficace, bien que pas toujours optimal.

Conclusion : une épée à double tranchant puissante

Les algorithmes gloutons sont un concept fondamental en informatique. Ils représentent une approche puissante et intuitive de l'optimisation : faites le choix qui semble le meilleur en ce moment. Pour les problèmes avec la bonne structure — la propriété du choix glouton et la sous-structure optimale — cette stratégie simple donne un chemin efficace et élégant vers l'optimum global.

Des algorithmes comme celui de Dijkstra, Kruskal et le codage de Huffman témoignent de l'impact réel de la conception gloutonne. Cependant, l'attrait de la simplicité peut être un piège. L'application d'un algorithme glouton sans tenir compte de la structure du problème peut conduire à des solutions incorrectes et sous-optimales.

La leçon ultime de l'étude des algorithmes gloutons est plus qu'un simple code ; c'est une rigueur analytique. Elle nous apprend à remettre en question nos hypothèses, à rechercher des contre-exemples et à comprendre la structure profonde d'un problème avant de nous engager dans une solution. Dans le monde de l'optimisation, savoir quand ne pas être glouton est tout aussi précieux que savoir quand l'être.