Illia Polosukhin est un informaticien et entrepreneur, surtout connu comme cofondateur de NEAR, une plateforme blockchain publique, et comme co-auteur de l'article de 2017 « Attention Is All You Need », qui a introduit l'architecture transformer à la base des modèles de langage de grande taille modernes. Son travail couvre l'intelligence artificielle, le apprentissage automatique et les systèmes décentralisés.
Né en Ukraine, Polosukhin a étudié à l'Institut polytechnique de Kharkiv, où il a obtenu un master en informatique. Il a ensuite travaillé comme ingénieur logiciel dans plusieurs entreprises avant de rejoindre Google, où il est devenu responsable de l'ingénierie chez Google Research. Pendant son séjour chez Google, il a collaboré avec des chercheurs comme Jakob Uszkoreit, Lukasz Kaiser et Llion Jones sur les recherches qui ont mené à l'article sur le Transformer, publié en 2017. Cet article proposait une architecture novatrice basée sur l'attention multi-têtes et l'encodage positionnel, remplaçant les couches récurrentes et convolutionnelles dans la modélisation de séquences, et est devenu la base de modèles ultérieurs comme BERT et GPT.
Carrière chez Google et le Transformer
Chez Google Research, Polosukhin se concentrait sur la compréhension du langage naturel et l'apprentissage de représentations. Ses contributions à l'article sur le Transformer incluent la conception du cadre encodeur-décodeur et l'utilisation de mécanismes d'auto-attention. L'article a démontré que le Transformer pouvait atteindre des résultats de pointe sur les tâches de traduction automatique tout en étant plus parallélisable et en nécessitant moins de temps d'entraînement que les réseaux de neurones récurrents. Ce travail a eu un impact durable sur le domaine, permettant le développement de systèmes d'IA générative et d'applications de apprentissage profond dans tous les secteurs.
Fondation du protocole NEAR
En 2017, Polosukhin a quitté Google pour cofonder Near.ai, une startup d'intelligence artificielle axée sur la synthèse de programmes, avec Alexander Skidanov, ancien directeur de l'ingénierie chez MemSQL. Le projet a évolué vers le protocole NEAR, une plateforme blockchain conçue pour des applications décentralisées à haut débit et conviviales. NEAR utilise un mécanisme de consensus par preuve d'enjeu et une architecture fragmentée pour atteindre l'évolutivité. Le réseau principal a été lancé en avril 2020, initialement en mode restreint de preuve d'autorité, puis est passé à une preuve d'enjeu complète. NEAR a levé des fonds importants, dont 12,1 millions de dollars en juillet 2019 et 21,6 millions de dollars en mai 2020, avec des investisseurs comme Metastable Capital et Andreessen Horowitz.
Contributions techniques et vision
Polosukhin a été un défenseur vocal de l'accessibilité de la technologie blockchain aux utilisateurs grand public. Sous sa direction, NEAR a introduit des fonctionnalités telles que des noms de comptes lisibles par l'homme, un modèle de sécurité progressif et un environnement de contrats intelligents convivial pour les développeurs. Il a également souligné l'importance de l'expérience utilisateur et de l'intégration, visant à réduire les barrières pour les utilisateurs non techniques. Son parcours en IA a influencé la feuille de route de NEAR, y compris les efforts pour intégrer des outils d'apprentissage automatique et des applications d'IA décentralisées sur la plateforme.
Reconnaissance et influence
Polosukhin est largement reconnu dans les communautés de l'IA et de la blockchain. L'article sur le Transformer a été cité des dizaines de milliers de fois, et ses auteurs sont considérés comme des pionniers de l'IA moderne. La transition de Polosukhin de la recherche en IA à l'entrepreneuriat blockchain met en évidence la convergence de ces domaines, car les réseaux décentralisés s'appuient de plus en plus sur l'IA pour l'automatisation et le traitement des données. Il a pris la parole lors de grandes conférences et a contribué aux discussions sur l'avenir du web3 et de la gouvernance décentralisée.
Controverses et défis
NEAR a fait face à des critiques et à des incidents de sécurité. En 2022, Skyward Finance, une plateforme de lancement construite sur NEAR, a été exploitée pour environ 3 millions de dollars en raison d'une faille dans son contrat de rachat de trésorerie. En 2023, un rapport de Messari a souligné des préoccupations concernant la décentralisation des validateurs, notant qu'environ 35 % des jetons mis en jeu étaient hébergés sur Amazon Web Services, ce qui a conduit à un faible coefficient de Nakamoto opérationnel. En 2024, le compte X officiel de NEAR a publié des messages anti-crypto qui se sont révélés être un coup de marketing, suscitant des réactions négatives de la communauté. Ces événements ont mis à l'épreuve le leadership de Polosukhin et la résilience du projet.
Héritage et orientations futures
Polosukhin continue de guider le développement de NEAR, en se concentrant sur l'évolutivité, l'interopérabilité et l'adoption par les utilisateurs. Son expertise double en IA et en blockchain le positionne comme une figure clé dans le domaine émergent de l'IA décentralisée. En 2025, NEAR reste l'un des protocoles de couche un importants, avec des efforts continus pour améliorer son infrastructure et élargir son écosystème. Le travail de Polosukhin illustre la pollinisation croisée des idées entre l'IA et la blockchain, et ses contributions sont susceptibles d'influencer les deux industries pendant des années à venir.