Marc Tingley est un chercheur en politiques d'IA à la RAND Corporation, un groupe de réflexion mondial à but non lucratif sur les politiques publiques. Son travail se concentre sur l'intersection de l'intelligence artificielle et des politiques publiques, y compris l'évaluation des risques, les cadres de gouvernance et les implications sociétales des technologies émergentes. Tingley a contribué à la littérature croissante sur la gouvernance de l'IA, examinant souvent comment les gouvernements et les organisations peuvent développer et déployer des systèmes d'IA de manière responsable.
La recherche de Tingley aborde à la fois les défis opérationnels à court terme et les questions stratégiques à long terme posées par le apprentissage automatique et les domaines connexes. Il a participé à des projets qui analysent les risques potentiels de l'IA générative, y compris les questions de sécurité, d'éthique et de réglementation. Ses publications visent généralement à informer les décideurs politiques avec des analyses fondées sur des preuves, en s'appuyant sur des perspectives techniques et en sciences sociales.
Jeunesse et éducation
Marc Tingley a suivi une formation académique dans des domaines pertinents pour la technologie et les politiques. Bien que les détails spécifiques de son éducation précoce ne soient pas largement divulgués, ses travaux ultérieurs indiquent une base solide en informatique et en politiques publiques. Il a collaboré avec des communautés de recherche interdisciplinaires, travaillant avec des experts d'institutions telles que le Laboratoire d'informatique et d'intelligence artificielle du MIT et le Laboratoire d'IA de Stanford.
Carrière à la RAND Corporation
À la RAND Corporation, Tingley a contribué à plusieurs initiatives de recherche dans le cadre des programmes technologiques et de sécurité de l'organisation. Ses projets ont inclus des évaluations de l'impact de l'IA sur la sécurité nationale, l'automatisation de la main-d'œuvre et le déploiement éthique de systèmes autonomes. Dans une étude notable, Tingley et ses collègues ont examiné comment l'IA pourrait affecter les processus de prise de décision dans les agences gouvernementales, proposant des cadres pour la supervision humaine et la responsabilité algorithmique.
Tingley a également rédigé ou co-rédigé des rapports qui synthétisent les développements techniques avec des options politiques. Par exemple, son travail a discuté du rôle des grands modèles de langage dans les écosystèmes d'information, y compris leur potentiel de mauvaise utilisation et l'efficacité des stratégies d'atténuation. Il participe fréquemment à des ateliers et des panels consultatifs, comblant le fossé entre les chercheurs en IA et les décideurs politiques.
Contributions à la recherche sur la gouvernance de l'IA
Un thème central dans la recherche de Tingley est la gouvernance des réseaux de neurones et des systèmes de apprentissage profond. Il a plaidé pour une gestion proactive des risques, soulignant la nécessité de cadres réglementaires adaptatifs capables de suivre le rythme des changements technologiques rapides. Ses écrits mettent souvent en évidence les incertitudes dans le développement de l'IA, telles que la difficulté de prédire le comportement des modèles et les défis de l'audit des systèmes complexes.
Tingley a exploré des mécanismes de gouvernance spécifiques, y compris les exigences de transparence, les évaluations d'impact et les normes pour les tests et l'évaluation. Il a référencé des concepts techniques comme le RLHF et le clipping de gradient dans des contextes politiques, illustrant comment les garanties techniques se rapportent aux objectifs de gouvernance. Ses analyses reconnaissent fréquemment les rôles des principaux développeurs d'IA, tels que OpenAI, Anthropic et Google DeepMind, dans la formation des normes industrielles.
Publications et influence
Les publications de Marc Tingley apparaissent dans les rapports de recherche de RAND, les notes politiques et les revues à comité de lecture. Bien qu'il ne soit pas aussi publiquement proéminent que certaines figures de l'industrie, son travail a été cité dans la littérature académique et les discussions politiques. Il a co-écrit des articles qui proposent des taxonomies de risques pour les systèmes d'IA, catégorisant les menaces allant des cyberattaques à la désinformation. Ces contributions ont aidé à définir le vocabulaire utilisé dans les débats sur la gouvernance de l'IA.
Tingley est connu pour sa perspective équilibrée, reconnaissant à la fois les avantages potentiels des architectures transformers et la nécessité de prudence. Son style d'écriture est accessible, visant à rendre les problèmes techniques complexes compréhensibles pour les non-experts. Cette accessibilité a rendu son travail utile pour les éducateurs, les journalistes et les décideurs politiques cherchant une analyse fiable.
Focus actuel et orientations futures
En 2024, Tingley continue de rechercher les défis émergents dans les politiques d'IA, y compris la gouvernance des modèles open-source et la coordination internationale des efforts de sécurité de l'IA. Il s'intéresse particulièrement à la manière dont les fournisseurs de cloud et d'autres acteurs de l'infrastructure peuvent être intégrés dans les cadres de responsabilité. Ses travaux futurs devraient aborder les impacts sociétaux d'agents d'IA de plus en plus autonomes, en s'appuyant sur ses recherches antérieures.
Tingley reste membre du personnel de recherche de RAND, contribuant à des projets pluriannuels financés par des sources gouvernementales et philanthropiques. Sa collaboration continue avec d'autres analystes politiques et experts techniques le positionne pour influencer l'évolution de la gouvernance de l'IA dans les années à venir.