LaMDA 2 est un modèle de langage de grande taille développé par Google pour des applications de dialogue. Annoncé en mai 2022, il succède au modèle LaMDA original, présenté lors de la conférence Google I/O en 2021. LaMDA 2 est conçu pour engager des conversations ouvertes et multi-tours, plus naturelles et utiles que son prédécesseur, avec un accent sur l'amélioration de la sécurité, de l'ancrage factuel et de la capacité à orienter les réponses selon l'intention de l'utilisateur.
Le modèle repose sur l'architecture transformeur, une conception de réseau de neurones devenue fondamentale dans l'intelligence artificielle et le apprentissage automatique modernes. Il utilise un cadre séquence-à-séquence avec des mécanismes de attention multi-têtes, lui permettant de traiter et de générer du texte conversationnel avec une conscience contextuelle. LaMDA 2 a été entraîné sur un vaste corpus de données de dialogue public et de textes web, en utilisant des techniques de apprentissage profond pour apprendre les schémas conversationnels et les connaissances du monde.
Architecture et entraînement
LaMDA 2 conserve l'architecture de base de son prédécesseur, à savoir un modèle transformeur à décodeur seul. Le LaMDA original a été entraîné avec jusqu'à 137 milliards de paramètres, et LaMDA 2 suit une échelle similaire, bien que les nombres exacts de paramètres n'aient pas été divulgués publiquement. L'entraînement impliquait un processus en deux étapes : d'abord, un pré-entraînement sur un ensemble de données diversifié de dialogues et de documents web pour apprendre les représentations linguistiques, puis un ajustement fin utilisant une combinaison d'apprentissage supervisé et de apprentissage par renforcement à partir de retours humains (RLHF).
L'étape d'ajustement fin était cruciale pour améliorer la sécurité et la qualité du modèle. Google a employé des évaluateurs humains pour noter les réponses du modèle selon des métriques telles que le caractère sensé, la spécificité et l'intérêt. Le RLHF a permis au modèle d'optimiser ces qualités, réduisant la probabilité de générer des sorties absurdes ou nuisibles. De plus, LaMDA 2 a intégré une technique appelée « ancrage », qui permet au modèle de consulter des sources d'information externes, comme des résultats de recherche, pour améliorer la précision factuelle lors des conversations.
Sécurité et factualité
Un objectif clé de LaMDA 2 était de remédier aux limitations du modèle original, notamment en matière de sécurité et de factualité. Le LaMDA original a été critiqué pour générer parfois des déclarations biaisées ou factuellement incorrectes. LaMDA 2 a introduit un nouvel ensemble de métriques de sécurité, incluant la « sécurité » (éviter un langage nuisible ou toxique) et la « factualité » (garantir que les déclarations sont soutenues par des sources fiables).
Pour atteindre ces objectifs, Google a mis en œuvre une approche basée sur des classifieurs lors de l'entraînement, où les réponses étaient filtrées et classées selon des critères de sécurité. Le modèle a également été entraîné à reconnaître quand il manque d'informations et à poser des questions de clarification plutôt que de deviner. Cela représentait une rupture avec les modèles antérieurs, qui produisaient souvent des réponses confiantes mais incorrectes. La capacité d'ancrage de LaMDA 2 était particulièrement remarquable, car elle permettait au modèle de récupérer et de citer des informations externes en temps réel, de manière similaire à un moteur de recherche informant une réponse.
Contrôlabilité et intention de l'utilisateur
Une autre avancée de LaMDA 2 était sa contrôlabilité améliorée. Le modèle était conçu pour comprendre et suivre plus efficacement les instructions des utilisateurs, leur permettant de spécifier le ton, le style ou le contenu des réponses. Par exemple, un utilisateur pouvait demander une réponse sur un ton formel ou solliciter un résumé d'un sujet, et LaMDA 2 ajusterait sa sortie en conséquence.
Cela a été réalisé grâce à une technique appelée « conditionnement par intention », où le modèle est ajusté finement sur des exemples associant des instructions utilisateur à des caractéristiques de réponse souhaitées. Cela a rendu LaMDA 2 plus polyvalent que son prédécesseur, qui peinait souvent à s'écarter de son style conversationnel par défaut. Google a démontré cette capacité dans une série de démos interactives, montrant comment LaMDA 2 pouvait jouer le rôle de différents personnages, fournir des instructions étape par étape ou s'engager dans des tâches d'écriture créative.
Applications et impact
LaMDA 2 a été principalement présenté comme une avancée de recherche, Google intégrant ses capacités dans des produits comme Google Assistant et les services d'IA de Google Cloud. Cependant, le modèle n'a pas été publié en tant qu'API publique de la même manière que certains modèles concurrents, comme ceux d'OpenAI ou d'Anthropic. Au lieu de cela, Google s'est concentré sur l'utilisation de LaMDA 2 pour améliorer ses produits internes et informer le développement de modèles ultérieurs, tels que PaLM et Gemini.
Le modèle a également suscité des discussions publiques sur la nature de l'IA conversationnelle, en particulier après qu'un ingénieur de Google a affirmé que le LaMDA original avait atteint la sentience. Bien que LaMDA 2 n'ait pas été directement impliqué dans cette controverse, il a mis en lumière les capacités croissantes des modèles de dialogue et les considérations éthiques qui les entourent. Des chercheurs d'institutions comme Stanford AI Lab et MIT CSAIL ont cité LaMDA 2 comme un exemple des progrès rapides dans la IA générative, tout en notant les défis liés à la garantie d'une utilisation responsable de ces modèles.
Réception et héritage
LaMDA 2 a reçu des critiques généralement positives de la part des chercheurs en IA pour ses améliorations en matière de sécurité et de contrôlabilité, mais certains critiques ont noté qu'il présentait encore des limitations, telles que des erreurs factuelles occasionnelles et une tendance à la verbosité. Le mécanisme d'ancrage du modèle a été considéré comme un pas en avant, mais il n'était pas toujours fiable, et Google n'a pas publié de références détaillées comparant LaMDA 2 à d'autres grands modèles de langage.
Malgré ces limitations, LaMDA 2 a influencé les recherches ultérieures sur les systèmes de dialogue. Son accent sur le RLHF et l'ancrage est devenu une pratique standard dans les modèles ultérieurs, y compris ceux développés par OpenAI et Anthropic. En 2024, LaMDA 2 est considéré comme un modèle de transition dans la feuille de route IA de Google, comblant le fossé entre les premiers modèles conversationnels et les systèmes multimodaux plus avancés. Son développement a contribué aux efforts plus larges de Google en intelligence artificielle, positionnant l'entreprise comme un leader dans le domaine aux côtés d'autres acteurs majeurs.