Sakana AI Co, Ltd. est une entreprise japonaise d'intelligence artificielle dont le siège est à Tokyo. L'entreprise se concentre sur la recherche en évolution et en intelligence collective de l'IA, en s'inspirant des systèmes naturels. Son nom dérive du mot japonais pour poisson, symbolisant la manière dont un banc de poissons forme une entité cohérente à partir de règles individuelles simples - une analogie avec l'intelligence collective.
L'entreprise a été fondée par David Ha, Llion Jones et Ren Ito. Llion Jones a co-écrit l'article fondateur de 2017 « Attention Is All You Need » alors qu'il travaillait chez Google, qui a introduit l'architecture transformeur qui sous-tend les modèles de langage de grande taille modernes. Sakana AI a levé 30 millions de dollars en financement d'amorçage auprès de Lux Capital et Khosla Ventures, suivis d'environ 200 millions de dollars lors d'un tour de série A en 2024, avec des investisseurs tels que Mitsubishi UFJ, SMBC, Mizuho, Itochu, KDDI, Nomura et Nvidia. Le Nikkei a estimé la valeur de l'entreprise à 19 milliards de yens en 2024.
Fondation et Mission
Sakana AI a été établie à Tokyo avec pour objectif de démocratiser le développement de l'IA grâce à des méthodes computationnelles inspirées de la nature. Les fondateurs ont cherché à dépasser le paradigme de l'augmentation d'échelle des réseaux de neurones monolithiques, en explorant plutôt comment des composants simples en interaction peuvent produire des comportements complexes et adaptatifs. Le programme de recherche de l'entreprise est ancré dans le calcul évolutionnaire et l'intelligence en essaim, des domaines historiquement moins en vue que l'apprentissage profond mais offrant des voies alternatives pour créer des systèmes d'IA capables.
David Ha a précédemment travaillé chez Google Brain, où il a contribué à la recherche sur les architectures de réseaux de neurones et l'apprentissage par renforcement. Llion Jones a apporté son expertise issue de son travail sur l'architecture du transformeur, devenue fondamentale pour la IA générative moderne. Ren Ito, qui occupe le poste de PDG, a fourni un leadership entrepreneurial et stratégique. Le parcours combiné du trio a positionné Sakana AI pour faire le pont entre la recherche de pointe en apprentissage automatique et le développement pratique de produits.
Algorithmes Inspirés de la Nature
Les domaines de recherche principaux de Sakana AI sont l'évolution et l'intelligence collective. L'entreprise développe des algorithmes qui imitent des processus biologiques tels que la sélection naturelle, la mutation et la recombinaison pour optimiser les modèles d'IA. Cette approche contraste avec les méthodes traditionnelles qui reposent sur des architectures conçues manuellement et des procédures d'entraînement fixes. En traitant les modèles comme des organismes pouvant être croisés et évolués, Sakana AI vise à découvrir des solutions novatrices qui pourraient échapper à l'intuition humaine.
L'intelligence collective est un autre thème central. L'entreprise étudie comment plusieurs agents d'IA peuvent se coordonner et partager des informations pour résoudre des problèmes plus efficacement qu'un agent unique. Cela s'appuie sur des principes observés dans les bancs de poissons, les volées d'oiseaux et les colonies d'insectes, où des règles locales simples donnent naissance à un comportement de groupe sophistiqué. Sakana AI applique ces idées aux systèmes multi-agents, permettant potentiellement des déploiements d'IA plus robustes et évolutifs.
Méthode de Croisement de Modèles
En janvier 2024, Sakana AI a développé une méthode pour construire de nouveaux modèles d'IA en « croisant » plusieurs modèles existants. Ce processus implique de combiner et de muter des composants de différents modèles, de manière analogue au croisement génétique dans l'évolution biologique. La technique permet de créer des modèles aux capacités améliorées sans nécessiter de ressources computationnelles massives pour un entraînement à partir de zéro. Sakana AI voit cela comme un moyen de démocratiser le développement de l'IA, car les organisations plus petites et les chercheurs peuvent participer à la création de modèles sans accès à une infrastructure de calcul à grande échelle.
La méthode de croisement exploite les connaissances du calcul évolutionnaire et de l'élagage de modèles pour combiner sélectivement des traits bénéfiques. Elle peut fonctionner sur des modèles open source, souvent publiés avec des licences permissives, permettant un écosystème collaboratif d'amélioration des modèles. Cette approche a des implications pour réduire les coûts environnementaux et financiers associés à l'entraînement de grands modèles, rendant la recherche en IA plus accessible à l'échelle mondiale.
Projet AI Scientist
Sakana AI développe également un modèle appelé AI Scientist, qui automatise l'ensemble du processus de recherche scientifique. Ce projet ambitieux vise à créer un système d'IA capable de générer des hypothèses, de concevoir des expériences, de lancer des simulations, d'analyser les résultats et de rédiger des articles. L'AI Scientist pourrait accélérer les découvertes dans des domaines allant de la biologie à la science des matériaux en gérant les aspects routiniers de la méthode scientifique.
Le projet intègre plusieurs capacités d'IA, notamment les modèles de langage de grande taille pour le raisonnement et la génération de texte, ainsi que des modules spécialisés pour l'analyse de données et la conception expérimentale. Bien qu'il en soit encore à ses débuts, l'AI Scientist représente une étape significative vers des systèmes de recherche autonomes. Sakana AI positionne ce travail comme complémentaire aux scientifiques humains, augmentant potentiellement leur productivité plutôt que de les remplacer.
Financement et Investisseurs
Le soutien financier de Sakana AI reflète une forte confiance de la part d'investisseurs en capital-risque et d'entreprises. Le tour d'amorçage de 30 millions de dollars a été mené par Lux Capital et Khosla Ventures, deux sociétés de la Silicon Valley réputées pour soutenir les startups technologiques de pointe. Le tour de série A, annoncé en 2024, a apporté environ 200 millions de dollars d'un consortium d'institutions financières et d'entreprises technologiques japonaises, notamment Mitsubishi UFJ, SMBC, Mizuho, Itochu, KDDI, Nomura et Nvidia.
L'implication de Nvidia, un fournisseur majeur de matériel pour l'intelligence artificielle, suggère des synergies potentielles dans l'optimisation des algorithmes de Sakana AI pour des architectures de puces spécifiques. La participation de grandes banques et sociétés de commerce japonaises indique un intérêt stratégique pour l'application de l'IA à la finance, la logistique et les télécommunications. Cette base d'investisseurs diversifiée fournit à Sakana AI à la fois du capital et un accès à des partenariats industriels.
Position dans le Paysage de l'IA
Sakana AI opère dans un domaine concurrentiel dominé par de grands laboratoires tels que OpenAI, Anthropic et Google DeepMind. Cependant, son accent sur les algorithmes inspirés de la nature la différencie de ces pairs, qui poursuivent principalement l'augmentation d'échelle des architectures existantes. Sa localisation à Tokyo la positionne également au sein de l'écosystème d'IA en croissance du Japon, aux côtés des efforts de Sony AI et Fujitsu. L'approche de Sakana AI pourrait compléter le travail d'institutions académiques comme MIT CSAIL et Stanford AI Lab, qui explorent des thèmes similaires dans le calcul évolutionnaire.
L'accent mis par l'entreprise sur l'efficacité et la démocratisation résonne avec des tendances plus larges dans la communauté de l'IA, telles que le développement de modèles plus petits et plus spécialisés. En réduisant les barrières computationnelles à la création de modèles, Sakana AI pourrait permettre un paysage de recherche en IA plus distribué et inclusif. Ses méthodes pourraient également informer la conception de réseaux résiduels et d'autres architectures qui bénéficient de l'optimisation évolutionnaire.
Orientations Futures
À l'avenir, Sakana AI prévoit d'étendre sa recherche à de nouvelles applications de l'intelligence collective, notamment la robotique et les systèmes multi-agents. L'entreprise explore également des partenariats avec des collaborateurs académiques et industriels pour valider ses méthodes dans des contextes réels. En 2024, Sakana AI continue de perfectionner ses techniques de croisement et l'AI Scientist, avec pour objectif de publier des outils que les chercheurs pourront utiliser pour accélérer leurs propres travaux.
Le succès de l'entreprise dépendra de la capacité de ses approches inspirées de la nature à obtenir des résultats compétitifs avec l'apprentissage profond traditionnel à grande échelle. Les premiers résultats sont prometteurs, mais une adoption plus large nécessitera de démontrer des avantages clairs en termes d'efficacité, de robustesse ou de capacité. La position unique de Sakana AI à l'intersection de l'évolution, de l'intelligence collective et du développement pratique de l'IA en fait un acteur notable à surveiller dans le paysage en évolution du apprentissage automatique.
Voir Aussi
- intelligence collective
- calcul évolutionnaire
- IA générative
- modèle de langage de grande taille