L'apprentissage fédéré par cohortes est un paradigme d'apprentissage automatique qui étend l'apprentissage fédéré en organisant les sources de données participantes en cohortes, ou groupes, avant l'entraînement. Dans l'apprentissage fédéré standard, un serveur central coordonne les mises à jour de modèles provenant de plusieurs clients détenant des données locales, sans transférer les données brutes elles-mêmes. L'apprentissage fédéré par cohortes ajoute une couche de regroupement en cohortes, où les clients sont regroupés en fonction de la similarité des données, de propriétés statistiques ou d'autres critères, et l'entraînement du modèle se déroule au sein de ces cohortes ou entre elles. Cette approche vise à améliorer la personnalisation des modèles, à réduire les frais de communication et à renforcer la confidentialité en limitant l'exposition des données uniquement au sein d'une cohorte.
Le concept s'appuie sur des travaux fondamentaux en apprentissage automatique et intelligence artificielle, notamment la nécessité d'entraîner des modèles sur des données décentralisées. L'entraînement centralisé traditionnel exige d'agréger toutes les données dans un emplacement unique, ce qui soulève des préoccupations en matière de confidentialité et des défis logistiques. L'apprentissage fédéré, introduit en 2016 par des chercheurs de Google DeepMind et Google Cloud (alors partie de Google), a répondu à cela en permettant de partager des mises à jour de modèles plutôt que des données brutes. L'apprentissage fédéré par cohortes affine cette approche en introduisant une étape de regroupement intermédiaire, qui peut être statique ou ajustée dynamiquement pendant l'entraînement.
Motivation et avantages
La motivation principale de l'apprentissage fédéré par cohortes est de traiter l'hétérogénéité des données distribuées. Dans de nombreux scénarios réels, les données provenant de différents clients ne sont pas distribuées de manière identique ; par exemple, les dossiers médicaux de différents hôpitaux peuvent varier en termes de démographie des patients, d'équipements ou de pratiques de codage. Entraîner un modèle global unique sur de telles données peut entraîner de mauvaises performances pour des sous-groupes spécifiques. En regroupant les clients en cohortes partageant des caractéristiques de données similaires, le modèle peut être adapté à chaque cohorte, améliorant ainsi la précision et la pertinence.
Un autre avantage est l'efficacité de la communication. Dans l'apprentissage fédéré standard, chaque client communique avec le serveur central à chaque itération. Avec les cohortes, les mises à jour peuvent être agrégées d'abord au sein d'une cohorte, réduisant ainsi le nombre de messages envoyés au serveur central. Cela est particulièrement précieux dans des environnements à bande passante limitée, comme les appareils mobiles ou les systèmes de calcul en périphérie. De plus, le regroupement en cohortes peut renforcer la confidentialité : si les clients ne partagent des mises à jour qu'au sein d'une cohorte de confiance, le risque d'attaques par inférence depuis un serveur central est réduit, bien que le serveur central coordonne toujours le processus global.
Implémentation technique
L'apprentissage fédéré par cohortes peut être implémenté de plusieurs manières. Une approche courante consiste à définir des cohortes en fonction de métadonnées, telles que la région géographique, le type d'appareil ou la démographie des utilisateurs. Par exemple, un grand modèle de langage entraîné sur du texte utilisateur pourrait regrouper les utilisateurs par langue ou dialecte. Une autre approche utilise des algorithmes de regroupement pour former des cohortes en fonction des gradients ou des mises à jour de modèles eux-mêmes. Des techniques comme k-moyennes ou le regroupement hiérarchique peuvent être appliquées aux paramètres locaux du modèle pour identifier des regroupements naturels.
Pendant l'entraînement, chaque cohorte peut avoir sa propre instance de modèle, mise à jour à l'aide des données locales de ses membres. Périodiquement, les modèles de cohorte peuvent être agrégés pour former un modèle global, qui est ensuite redistribué aux cohortes pour un affinement supplémentaire. Cela est similaire à la moyenne fédérée, mais avec une hiérarchie supplémentaire. Certaines implémentations utilisent une architecture à deux niveaux : un serveur global coordonne les mises à jour au niveau des cohortes, tandis que chaque cohorte dispose d'un agrégateur local qui gère ses clients. Cela réduit la charge sur le serveur central et permet des mises à jour plus fréquentes au sein des cohortes.
Applications
L'apprentissage fédéré par cohortes a trouvé des applications dans la santé, la finance et la technologie grand public. Dans le domaine de la santé, les hôpitaux peuvent collaborer pour entraîner des modèles de diagnostic sans partager les dossiers des patients. En regroupant les hôpitaux ayant des populations de patients similaires (par exemple, pédiatriques ou adultes), les modèles peuvent être spécialisés pour chaque groupe. Par exemple, un réseau de neurones pour détecter la rétinopathie diabétique pourrait être entraîné sur des cohortes de cliniques disposant d'équipements d'imagerie similaires, améliorant ainsi la précision dans différents contextes.
Dans la finance, les banques peuvent utiliser le regroupement en cohortes pour détecter des schémas de fraude spécifiques à des régions ou segments de clients. Un modèle de apprentissage profond entraîné sur des données de transactions de plusieurs banques, regroupées par pays, peut identifier des tendances de fraude locales tout en préservant la confidentialité des clients. Dans la technologie grand public, des entreprises comme Apple et Samsung Electronics ont exploré l'apprentissage fédéré pour la personnalisation sur appareil, comme la prédiction de clavier ou la catégorisation de photos. Regrouper les utilisateurs par langue ou habitudes d'utilisation peut rendre ces modèles plus réactifs aux besoins individuels.
Défis et limites
Malgré ses avantages, l'apprentissage fédéré par cohortes fait face à plusieurs défis. Déterminer le nombre optimal et la composition des cohortes n'est pas trivial. Trop peu de cohortes peut ne pas capturer l'hétérogénéité, tandis qu'un trop grand nombre peut entraîner un surajustement ou des coûts de communication accrus. Le regroupement dynamique, où les groupes changent au fil du temps, ajoute de la complexité et nécessite des algorithmes robustes pour gérer les changements d'adhésion.
La confidentialité n'est pas entièrement résolue par le regroupement en cohortes. Bien que les données brutes restent locales, les mises à jour de modèles peuvent encore divulguer des informations sur des points de données individuels. Des techniques comme confidentialité différentielle ou le calcul multipartite sécurisé sont souvent combinées avec le regroupement en cohortes pour fournir des garanties plus solides. De plus, le regroupement peut introduire des biais si les cohortes sont formées en fonction d'attributs sensibles, entraînant des performances de modèle disparates. Les chercheurs doivent concevoir soigneusement les critères de regroupement pour éviter une discrimination involontaire.
Orientations futures
La recherche sur l'apprentissage fédéré par cohortes est en cours, avec des travaux actifs dans des institutions comme MIT CSAIL, Stanford AI Lab et Berkeley AI Research. Une direction est l'utilisation de apprentissage par renforcement pour déterminer automatiquement les affectations de cohortes. Une autre est l'intégration avec l'apprentissage par transfert fédéré, où les connaissances d'une cohorte sont transférées à une autre pour améliorer la généralisation. À mesure que les modèles de IA générative deviennent plus répandus, le regroupement en cohortes pourrait également être appliqué à l'entraînement de modèles basés sur transformeurs sur des données décentralisées, permettant le développement collaboratif de grands modèles de langage sans centraliser des informations sensibles.
L'approche est également pertinente pour le calcul en périphérie et l'internet des objets, où les appareils disposent de ressources limitées. En regroupant des appareils ayant des capacités similaires, les modèles peuvent être optimisés pour du matériel spécifique, réduisant ainsi la consommation d'énergie. Dans l'ensemble, l'apprentissage fédéré par cohortes représente un cadre flexible pour un apprentissage automatique personnalisé et respectueux de la confidentialité, avec un potentiel pour façonner les futurs systèmes d'intelligence artificielle.