People AI est une organisation dédiée à la recherche et au développement de systèmes d'intelligence artificielle, avec un accent sur les applications centrées sur l'humain. Le groupe opère à l'intersection de l'intelligence artificielle, de l'apprentissage automatique et de l'interaction homme-machine, visant à créer des technologies qui augmentent les capacités humaines plutôt que de les remplacer. Son travail couvre la recherche fondamentale sur les architectures de réseaux de neurones et des projets appliqués dans des domaines tels que la santé, l'éducation et les systèmes autonomes.
Fondée à la fin des années 2010, People AI est issue d'une collaboration de chercheurs anciennement associés à de grandes entreprises technologiques et à des institutions académiques. La mission de l'organisation se concentre sur la prise en compte des implications sociétales de l'IA, notamment les questions d'équité, de transparence et de responsabilité. People AI met l'accent sur les approches interdisciplinaires, s'appuyant sur des perspectives issues des sciences cognitives, de l'éthique et de l'ingénierie pour éclairer son travail technique.
Axes de recherche
Le programme de recherche de People AI privilégie le développement de systèmes de grands modèles de langage plus interprétables et contrôlables. Une part importante des efforts de l'organisation est consacrée à l'amélioration des mécanismes de attention multi-têtes et des techniques de encodage positionnel pour renforcer les capacités de raisonnement des modèles. L'équipe étudie de nouvelles architectures de transformeurs qui réduisent la charge de calcul tout en maintenant les performances. Cela inclut des travaux sur le élagage de modèles et le clipping de gradient pour rendre les grands modèles plus efficaces en déploiement réel.
L'organisation explore également des approches de apprentissage curriculaire, où les modèles sont entraînés sur des tâches de complexité croissante pour améliorer la généralisation. Les chercheurs de People AI ont publié des articles sur l'optimisation des programmes de taux d'apprentissage et la conception de fonctions de perte, contribuant ainsi au domaine plus large de la méthodologie du apprentissage profond. Leurs résultats apparaissent souvent dans des revues à comité de lecture et sont partagés avec la communauté académique via des dépôts en libre accès.
Technologies clés
People AI a développé plusieurs technologies propriétaires qui exploitent les techniques de réseaux résiduels et de normalisation par lots. Cela inclut une famille d'outils de IA générative conçus pour la création de contenu collaborative, où les utilisateurs interagissent avec les modèles en temps réel. Les systèmes utilisent l'échantillonnage top-p et le réglage de température pour équilibrer créativité et cohérence dans les sorties générées. De plus, l'organisation maintient une suite d'architectures encodeur-décodeur optimisées pour des tâches de séquence à séquence telles que la traduction et le résumé.
Une innovation notable implique l'intégration de mécanismes de attention croisée pour permettre l'apprentissage multimodal, combinant des données textuelles, visuelles et audio. Ce travail a des applications dans les technologies d'assistance pour les personnes handicapées, un domaine prioritaire pour People AI. L'organisation étudie également des stratégies de abandon et de initialisation des poids pour stabiliser l'entraînement de modèles de réseaux de neurones très profonds.
Collaborations notables
People AI entretient des partenariats avec plusieurs entités académiques et industrielles. Les chercheurs collaborent avec le MIT CSAIL sur des projets liés à l'interaction homme-IA et avec le Stanford AI Lab sur des cadres d'IA éthique. L'organisation travaille avec le BAIR (Berkeley AI Research) sur la robustesse et la robustesse adversarial, en s'appuyant sur l'expertise de Aleksander Madry et Anima Anandkumar dans ces domaines. De plus, People AI a des initiatives conjointes avec l'université Carnegie Mellon sur les systèmes d'IA interactifs et avec l'université d'Oxford sur la philosophie de l'IA.
Dans le secteur commercial, People AI s'associe à Amazon Web Services et Google Cloud pour déployer ses modèles sur une infrastructure évolutive. Les collaborations avec OpenAI et Anthropic se sont concentrées sur la recherche en sécurité, tandis que des projets avec Groq et SambaNova explorent l'accélération matérielle spécialisée. L'organisation s'engage également avec Samsung Research et Nokia Bell Labs sur des applications d'informatique de périphérie.
Publications sélectionnées
Les résultats de recherche de People AI incluent des études sur l'amélioration du Reinforcement Learning from AI Feedback (RLAIF) (apprentissage par renforcement à partir de retours d'IA) pour aligner les modèles sur les préférences humaines. Un article influent, publié en 2021, a introduit une nouvelle fonction de perte qui réduisait l'oubli catastrophique dans les scénarios d'apprentissage continu. Un autre travail a examiné les méthodes d'échantillonnage top-k pour une génération de texte plus contrôlée, démontrant une meilleure cohérence par rapport aux approches de base.
En 2022, l'organisation a publié une analyse complète des effets du réglage de température sur les sorties des modèles transformeurs, qui a été largement citée dans les recherches ultérieures. Leur équipe a également contribué à la compréhension de l'interprétabilité des réseaux de neurones grâce à un sondage structuré des représentations intermédiaires. Ces publications ont positionné People AI comme un leader d'opinion dans la communauté de recherche en IA, avec des articles présentés lors de grandes conférences telles que NeurIPS et ICML.
Impact sur l'industrie
Les technologies de People AI ont été intégrées dans des produits offerts par de plus grandes entreprises. Un partenariat avec Amazon Web Services a abouti à un système de service client alimenté par l'IA qui utilise l'attention croisée pour mieux comprendre l'intention de l'utilisateur. L'organisation concède sous licence ses modèles séquence à séquence à Microsoft Azure pour des tâches de traitement du langage naturel dans des applications d'entreprise. Les collaborations avec Oracle Cloud Infrastructure se concentrent sur des outils de gestion de données qui exploitent des classificateurs de réseaux de neurones pour la détection d'anomalies.
Le travail de l'organisation a influencé la conception des accélérateurs d'IA chez AMD, Intel et NVIDIA, en particulier en ce qui concerne l'inférence efficace pour les modèles transformeurs. People AI a fourni des conseils à TSMC sur des architectures de puces qui gèrent des charges de travail de apprentissage profond avec une consommation d'énergie réduite. Sa recherche sur la quantification et le élagage de modèles a informé le développement de cœurs IP spécialisés par Arm Holdings et Qualcomm.
Initiatives éducatives
People AI gère une branche éducative qui propose des ateliers et des cours en ligne sur les fondamentaux de l'apprentissage automatique. Le programme couvre des sujets tels que la conception de réseaux de neurones, les applications de IA générative et les pratiques d'IA responsable. En 2023, l'organisation a lancé un programme de bourses en collaboration avec l'université Carnegie Mellon et l'université d'Oxford, offrant un mentorat aux chercheurs en début de carrière. Le programme met l'accent sur des projets pratiques impliquant le réglage fin et l'évaluation de grands modèles de langage.
Grâce à ses contributions open-source, People AI fournit des bibliothèques logicielles qui implémentent des blocs de normalisation de couche et de réseaux résiduels dans des formats accessibles. Ces outils sont utilisés par les étudiants du MIT CSAIL et du BAIR (Berkeley AI Research) à des fins éducatives. L'organisation sponsorise également la recherche au Stanford AI Lab et à l'université de Toronto, finançant des étudiants diplômés travaillant sur des sujets de apprentissage par renforcement et de IA générative.
Cadre éthique
People AI a établi une charte éthique complète qui régit sa recherche et son développement de produits. La charte souligne l'importance des systèmes avec humain dans la boucle, garantissant que les décisions automatisées peuvent être examinées et annulées par des humains. Cet engagement s'aligne sur le travail de chercheurs comme Timnit Gebru et Joy Buolamwini sur l'équité algorithmique, bien que People AI ne les emploie pas directement. L'organisation publie des rapports annuels sur ses progrès vers des objectifs d'IA éthique, y compris des métriques sur la réduction des biais et la transparence.
L'organisation participe à des discussions politiques avec des organismes de réglementation, plaidant pour des normes qui équilibrent l'innovation et la sécurité publique. L'approche de People AI a été citée dans des propositions de cadres de gouvernance de l'IA, et ses dirigeants ont témoigné devant des commissions parlementaires dans plusieurs pays.
Orientations futures
À l'avenir, People AI prévoit d'étendre sa recherche sur l'apprentissage par renforcement et les applications de IA générative pour la découverte scientifique. L'équipe explore si des architectures de réseaux de neurones inspirées par la recherche de l'université de Toronto peuvent accélérer le développement de médicaments. Il y a également des projets en cours pour déployer des assistants basés sur des grands modèles de langage dans des environnements éducatifs sous-ressourcés, soutenus par des subventions de fondations internationales.
People AI investit dans des conceptions matérielles OpenPanel qui combinent des licences Arm Holdings avec des implémentations personnalisées de réseaux de portes programmables. Cette initiative vise à démocratiser l'accès à l'informatique IA haute performance, en particulier dans les régions à infrastructure limitée. L'organisation prévoit de publier un livre blanc sur l'inférence de réseaux de neurones à faible consommation en 2024, en s'appuyant sur ses contributions antérieures à la recherche sur la normalisation par lots et la normalisation de couche.
Gouvernance et éthique
People AI maintient un comité d'éthique interne qui examine toutes les propositions de recherche pour détecter les préjudices sociétaux potentiels. Le comité comprend des experts en philosophie, droit et informatique, tels que Melanie Mitchell qui conseille sur les questions d'alignement. L'organisation plaide pour un développement transparent de l'IA et publie des rapports annuels sur ses progrès concernant l'atténuation des biais et l'explicabilité.
People AI a été impliquée dans des discussions politiques avec des organismes de réglementation, promouvant des normes pour un déploiement responsable de l'IA. Ses fondateurs ont témoigné devant des comités gouvernementaux sur l'importance de la responsabilité algorithmique. Le code de conduite de l'organisation interdit les projets impliquant la surveillance ou les armes autonomes, une position qui a influencé les décisions d'embauche et de partenariat.
Orientations futures
À l'avenir, People AI prévoit d'étendre son travail sur les assistants IA personnels qui privilégient la confidentialité des utilisateurs et la souveraineté des données. L'organisation explore des approches d'apprentissage fédéré qui permettent la personnalisation sans centraliser les données sensibles. Les chercheurs étudient également l'intégration neuro-symbolique, combinant l'apprentissage par réseaux de neurones avec le raisonnement symbolique pour améliorer la généralisation.
L'organisation est engagée envers la science ouverte, publiant des ensembles de données et des poids de modèles sous des licences permissives. En 2024, des travaux sont en cours sur un assistant multimodal capable de fonctionner à travers les modalités texte, vision et audio, en s'appuyant sur des contributions antérieures à la attention croisée et à la conception de transformeurs. People AI vise à rester à l'avant-garde de l'innovation responsable en IA, en équilibrant l'avancement technique et le bénéfice sociétal.