Brain Trust est une startup d'intelligence artificielle fondée par un groupe d'anciens chercheurs d'OpenAI. L'entreprise se concentre sur l'avancement de la technologie des grands modèles de langage et sur la résolution des problèmes de sécurité dans les systèmes d'IA générative. Son équipe fondatrice comprend plusieurs personnes ayant contribué à des avancées majeures dans l'apprentissage profond et les architectures de transformeurs durant leur passage chez OpenAI.
La startup a émergé pendant une période de mouvements importants de talents dans l'industrie de l'IA, alors que les chercheurs cherchaient à explorer de nouvelles directions au-delà des organisations établies. Brain Trust se positionne à l'intersection de la recherche de pointe en apprentissage automatique et du déploiement pratique, avec un accent sur le développement de modèles à la fois puissants et alignés sur les valeurs humaines.
Fondation et Direction
Brain Trust a été fondée en 2024 par un groupe de chercheurs ayant précédemment travaillé sur des systèmes d'IA à grande échelle chez OpenAI. L'équipe fondatrice comprend des personnes ayant une expertise dans la conception de réseaux de neurones, l'apprentissage par renforcement et l'alignement des modèles. Bien que l'entreprise n'ait pas divulgué publiquement sa structure de direction complète, plusieurs figures clés ont été identifiées grâce à des documents publics et des rapports de l'industrie.
Parmi les fondateurs figurent des chercheurs ayant contribué au développement d'architectures basées sur les transformeurs et de grands modèles de langage durant leur temps chez OpenAI. Leur expérience collective couvre des domaines tels que l'attention multi-têtes, l'encodage positionnel et l'élagage de modèles, reflétant une compréhension approfondie des fondements techniques des systèmes d'IA modernes.
Le conseil consultatif de l'entreprise comprend des universitaires d'institutions comme le Stanford AI Lab et le Berkeley AI Research, offrant des connexions avec la communauté de recherche plus large. Brain Trust a également établi des collaborations avec des laboratoires universitaires, notamment le MIT CSAIL et l'Université Carnegie Mellon, pour soutenir des initiatives de recherche fondamentale.
Mission et Domaines d'Intérêt
La mission principale de Brain Trust est de développer des systèmes d'IA à la fois très performants et sûrs pour un déploiement à grande échelle. L'entreprise met l'accent sur la recherche en alignement, visant à garantir que les modèles d'IA se comportent conformément aux intentions humaines dans divers scénarios. Cette orientation la distingue des entreprises d'IA purement commerciales qui privilégient la montée en capacité sans accorder une attention équivalente à la sécurité.
Le programme de recherche de la startup couvre plusieurs domaines clés : améliorer l'efficacité des modèles grâce à des techniques comme le clipping de gradient et la normalisation de couche, faire progresser les méthodologies d'apprentissage curriculaire et explorer de nouvelles fonctions de perte pour de meilleures dynamiques d'entraînement. Brain Trust étudie également l'apprentissage par renforcement à partir de retours d'IA comme moyen d'aligner le comportement des modèles sur les préférences humaines.
Une partie significative du travail de l'entreprise implique le développement de systèmes d'IA plus interprétables. Les chercheurs de Brain Trust étudient les mécanismes d'attention et les schémas d'attention croisée pour comprendre comment les modèles traitent l'information, avec pour objectif de créer des systèmes d'IA plus transparents et auditable.
Technologie et Produits
Brain Trust a développé des architectures propriétaires qui s'appuient sur le cadre encodeur-décodeur et les paradigmes d'apprentissage séquence à séquence. Les modèles de l'entreprise intègrent des fonctionnalités avancées telles que l'échantillonnage top-p et l'ajustement de température pour contrôler la qualité et la diversité de la génération.
L'une des contributions techniques notables de la startup est une approche novatrice de l'initialisation des poids qui améliore la stabilité de l'entraînement pour les réseaux très profonds. Ce travail s'appuie sur des recherches antérieures sur les réseaux résiduels et la normalisation par lots, abordant les défis qui surgissent lors de la mise à l'échelle des modèles à des milliards de paramètres.
Brain Trust a également développé des outils d'augmentation de données qui améliorent la robustesse des modèles dans différents domaines. Ces outils sont conçus pour fonctionner avec les cadres d'apprentissage automatique existants et ont été adoptés par plusieurs organisations partenaires dans le secteur du cloud computing.
La gamme de produits phare de l'entreprise comprend une famille de modèles de langage optimisés pour différents cas d'utilisation, de la génération de code au raisonnement scientifique. Ces modèles sont disponibles via une API qui prend en charge la recherche en faisceau et l'échantillonnage top-k pour un contrôle au moment de l'inférence.
Financement et Croissance
Brain Trust a bouclé son tour de financement d'amorçage au début de 2024, levant 50 millions de dollars auprès d'un consortium d'investisseurs comprenant des sociétés de capital-risque de premier plan et des partenaires stratégiques du secteur technologique. Le tour a été sursouscrit, reflétant une forte confiance des investisseurs dans l'expertise de l'équipe fondatrice et l'orientation de la recherche de l'entreprise.
À la fin de 2024, l'entreprise a annoncé un tour de série A de 200 millions de dollars, mené par une grande société d'investissement spécialisée dans l'infrastructure de l'IA. Ce financement a permis à Brain Trust d'étendre son équipe de recherche et d'acquérir des ressources informatiques spécialisées, notamment des partenariats avec AMD et NVIDIA pour des grappes de GPU.
L'entreprise a également conclu des accords avec Amazon Web Services et Google Cloud pour la capacité de calcul cloud, lui permettant d'entraîner des modèles à grande échelle sans maintenir ses propres centres de données. Ces partenariats donnent accès aux puces AWS Trainium et à d'autres matériels spécialisés.
Partenariats et Collaborations
Brain Trust maintient des collaborations actives avec plusieurs institutions académiques et partenaires industriels. L'entreprise travaille avec des chercheurs de l'Université de Toronto sur la théorie de l'apprentissage profond et avec l'Université d'Oxford sur la sécurité et l'éthique de l'IA. Ces partenariats facilitent l'échange de connaissances et donnent accès à des perspectives de recherche diversifiées.
Dans la sphère commerciale, Brain Trust s'est associé à Samsung Electronics pour explorer des applications d'IA sur appareil, et à Qualcomm pour optimiser les modèles pour les processeurs mobiles. L'entreprise travaille également avec Arm Holdings sur des architectures d'inférence efficaces pour les appareils de périphérie.
Brain Trust a établi une collaboration de recherche avec Nokia Bell Labs pour étudier de nouveaux paradigmes de calcul pour l'IA, et avec Xerox PARC sur la conception d'IA centrée sur l'humain. Ces partenariats reflètent l'intérêt de l'entreprise pour la recherche fondamentale et les applications pratiques.
Équipe et Culture
Brain Trust emploie environ 80 chercheurs et ingénieurs, dont beaucoup détiennent des diplômes avancés d'institutions de premier plan comme Stanford et le MIT. L'équipe comprend des spécialistes en architecture de réseaux de neurones, en théorie de l'optimisation et en interprétabilité des modèles.
La culture de l'entreprise met l'accent sur la recherche ouverte et le partage des connaissances, avec de nombreux membres de l'équipe publiant des articles lors de grandes conférences. Brain Trust maintient un modèle de travail hybride, avec des bureaux à San Francisco et des chercheurs à distance répartis sur plusieurs fuseaux horaires.
Parmi les membres notables de l'équipe figurent des chercheurs ayant précédemment travaillé sur les modèles transformeurs chez Google DeepMind et Anthropic, apportant des perspectives diverses issues de différentes cultures organisationnelles. L'entreprise emploie également plusieurs anciens membres du Berkeley AI Research et des programmes d'IA de l'Université Carnegie Mellon.
Orientations Futures
Brain Trust prévoit de lancer son premier produit commercial en 2025, ciblant les clients d'entreprise dans les secteurs de la santé et de la finance. L'entreprise développe également des modèles spécialisés pour la découverte scientifique, avec des applications dans le développement de médicaments et la science des matériaux.
À l'avenir, Brain Trust vise à contribuer au développement de l'intelligence générale artificielle tout en maintenant un fort accent sur la sécurité. L'entreprise s'est engagée à publier des recherches sur la sécurité et à participer à des initiatives à l'échelle de l'industrie pour un développement responsable de l'IA.
Brain Trust explore également des approches de calcul quantique via un partenariat avec D-Wave, étudiant comment les algorithmes quantiques pourraient accélérer certaines tâches d'apprentissage automatique. Bien que ce travail en soit à un stade précoce, il reflète l'ambition à long terme de l'entreprise de repousser les limites du possible en IA.
La startup continue de recruter les meilleurs talents du monde académique et de l'industrie, avec un accent particulier sur les chercheurs intéressés par l'alignement et l'interprétabilité. Alors que le domaine de l'IA évolue, Brain Trust vise à rester à la pointe du développement des capacités et de la recherche en sécurité, contribuant à l'avancement responsable de l'intelligence artificielle.