Compression de modèle à haute efficacité pour les grands modèles de langage sur mobile

Mots clés

Grands modèles de langage multimodaux, Compression de modèle, Apprentissage fédéré, Théorie de l'information, Décomposition tensorielle, Réglage fin

Détail de l'offre

Alors que les grands modèles de langage (LLM) basés sur le cloud, (e.g., ChatGPT), évoluent rapidement en termes de capacités, ils souffrent encore de plusieurs inconvénients. En particulier : les opérations sur le cloud, comme l'inférence, consomment énormément d'énergie ; la confidentialité des utilisateurs est une question cruciale, empêchant le traitement de données sensibles. Dans ce contexte, la capacité de déployer un LLM sur un téléphone portable ou un ordinateur portable, devient primordiale. Pour ce faire, il est nécessaire que le modèle LLM soit beaucoup plus réduit en termes de nombre de paramètres effectifs et de nombre total de bits pour le stockage ; une compression agressive du modèle est l'un des moyens d'atteindre cet objectif. Afin d'obtenir des taux de compression extrêmes (100-1000) pour de grands réseaux de neurones comme les transformers, il est nécessaire de recourir à des outils avancés et, éventuellement, de rendre le LLM embarqué moins généraliste (en le rendant davantage axé sur un but ou un objectif spécifique). Les principales pistes de recherche concernant la compression des LLM explorées jusqu'à présent dans la littérature sont l'élagage (pruning), la distillation, la quantification et la spécialisation des tâches. Bien que des progrès significatifs aient été réalisés, les taux de compression actuels restent largement insuffisants pour permettre une mise en œuvre des LLM sur appareil. Par exemple, les techniques de quantification scalaire post-entraînement permettent généralement de passer de 32 bits par poids à 3 bits par poids, ce qui est excellent, mais encore loin de l'objectif de réduction de 100 à 1000 fois requis pour les LLM embarqués. Pour atteindre cet objectif ambitieux, la méthodologie en 3 axes que nous proposons pour cette thèse de doctorat est la suivante.
1. Représentation efficace du modèle : Nous voulons déterminer une représentation efficace du modèle à compresser. En particulier, nous souhaitons exploiter notre solide expertise en décomposition tensorielle pour représenter au mieux un bloc de réseau de neurones à large échelle et exploiter correctement les corrélations entre canaux. Un exemple simple d'un tel bloc est une tête d'auto-attention.
2. Conception de quantificateurs agressifs : Nous voulons concevoir des quantificateurs de poids agressifs en exploitant : les concepts de la théorie de l'information, des règles d'allocation de bits quasi-optimales, les informations complémentaires dans un contexte d'apprentissage fédéré ou par transfert, ainsi qu'une caractérisation appropriée de la gamme de tâches à accomplir par le LLM multimodal. Pour mettre en œuvre des opérations de compression avec perte appliquées à l'espace de représentation, nous visons à adapter des techniques de compression avec informations latérales héritées de la théorie de l'information. En effet, si le décodeur a accès à plusieurs versions compressées, comme c'est le cas dans l'apprentissage par transfert, la distillation ou l'apprentissage fédéré, il devient possible d'aller beaucoup plus loin dans les taux de compression.
3. Révision du réglage fin: Revisiter le fine-tuning des LLM en exploitant des décompositions tensorielles avancées (par opposition au produit de matrices de bas rang classique utilisé actuellement) et les interactions avec les opérations en amont du pipeline. En effet, les formats et décompositions tensorielles de bas rang deviennent de plus en plus populaires, mais la manière de combiner correctement ces techniques avec la quantification reste floue. Pour donner un exemple concret des limites de la recherche actuelle : la quantification post-entraînement laisse souvent derrière elle un bruit aléatoire dispersé (à travers les poids du modèle) qu'une adaptation de bas rang ne peut pas facilement corriger. Cela signifie que l'adaptation de bas rang finit par gaspiller sa capacité limitée à essayer de corriger un bruit irrécupérable au lieu d'améliorer les performances de la tâche.