Joshua Greene est un psychologue et philosophe américain dont la recherche se concentre sur la cognition morale - les processus psychologiques et neuronaux qui sous-tendent le jugement moral. Il est professeur à l'Université Harvard, où il dirige le laboratoire de cognition morale. Le travail de Greene intègre des modèles de réseaux neuronaux et des expériences comportementales pour comprendre comment les personnes prennent des décisions éthiques, en particulier dans des dilemmes impliquant des compromis entre des principes utilitaristes et déontologiques.
Greene a obtenu son doctorat en philosophie de l'Université Princeton et sa licence en philosophie de Harvard. Son étude influente de 2001, menée avec des collègues, a utilisé l'imagerie par résonance magnétique fonctionnelle (IRMf) pour montrer que différentes régions du cerveau sont actives lorsque les personnes considèrent des dilemmes moraux personnels par rapport à des dilemmes impersonnels. Ce travail a contribué à établir le domaine des neurosciences morales et a été largement cité en psychologie et en philosophie.
Théorie du double processus du jugement moral
La contribution théorique centrale de Greene est le modèle du double processus du jugement moral. Selon ce modèle, les réponses intuitives et émotionnelles conduisent souvent à des jugements déontologiques (axés sur les droits et les devoirs), tandis que des processus cognitifs plus contrôlés soutiennent les jugements utilitaristes (axés sur les résultats). Dans son article de 2008 « The Secret Joke of Kant's Soul », Greene a soutenu que l'éthique déontologique pourrait être des intuitions émotionnelles rationalisées plutôt qu'un raisonnement fondé sur des principes. Cette affirmation provocatrice a suscité un débat substantiel parmi les philosophes et les psychologues.
Son livre « Moral Tribes: Emotion, Reason, and the Gap Between Us and Them » (2013) a étendu ces idées aux conflits intergroupes, proposant une « métamoralité » basée sur un cadre utilitariste qui pourrait aider à résoudre les désaccords entre différentes communautés morales. Le livre s'est appuyé sur la recherche en intelligence artificielle pour illustrer comment les systèmes cognitifs peuvent être optimisés pour différents objectifs.
Méthodes de recherche et résultats
Les expériences de Greene présentent généralement aux participants des dilemmes moraux, tels que le problème classique du tramway, tout en mesurant les temps de réaction et l'activité cérébrale. Il a constaté que les dilemmes personnels (par exemple, pousser quelqu'un d'un pont pour arrêter un train) engagent des régions émotionnelles du cerveau comme l'amygdale et le cortex préfrontal médian, tandis que les dilemmes impersonnels (par exemple, actionner un levier) activent des régions cognitives comme le cortex préfrontal dorsolatéral. Ces résultats ont été répliqués dans plusieurs études et ont influencé les recherches ultérieures sur la psychologie morale.
Son travail examine également comment la charge cognitive et la pression temporelle affectent les décisions morales. Les études de son laboratoire montrent que lorsque les participants sont soumis à des contraintes de temps ou à une charge cognitive, ils sont plus susceptibles de porter des jugements déontologiques, ce qui soutient l'idée que ces jugements reposent sur des processus rapides et intuitifs.
Applications à l'éthique de l'IA
Ces dernières années, Greene a appliqué son cadre de psychologie morale à des questions sur le apprentissage automatique et les systèmes autonomes. Il a soutenu que comprendre la cognition morale humaine est essentiel pour développer une IA capable de prendre des décisions éthiques, en particulier dans des domaines comme les véhicules autonomes et les soins de santé. Greene plaide pour une approche d'« apprentissage profond » de l'IA morale, où les systèmes apprennent des principes éthiques à partir de grands ensembles de données de jugements moraux humains plutôt que d'être programmés avec des règles explicites.
Il a collaboré avec des informaticiens pour explorer comment les modèles de apprentissage profond peuvent être entraînés à prédire les jugements moraux humains. Sa recherche suggère que bien que les grands modèles de langage actuels puissent imiter certains raisonnements moraux, ils manquent des réponses émotionnelles incarnées qui façonnent l'éthique humaine. Greene a mis en garde contre une dépendance excessive à l'IA pour les décisions morales sans comprendre ces limites.
Engagement public et écrits
Au-delà des publications académiques, Greene a écrit pour des publics populaires. Son livre de 2013 « Moral Tribes » a été largement critiqué et traduit dans plusieurs langues. Il a donné des conférences TED et est apparu dans des documentaires sur la moralité et le cerveau. Greene a également écrit des essais sur l'éthique des technologies émergentes, y compris l'IA générative et ses impacts sociétaux potentiels.
Les écrits publics de Greene soulignent souvent la nécessité d'un cadre moral mondial pour relever des défis comme le changement climatique et la perturbation technologique. Il soutient que les idées de la psychologie morale peuvent aider à concevoir des institutions et des technologies qui favorisent la coopération entre des groupes divers.
Carrière académique et reconnaissance
Greene est professeur associé John et Ruth Hazel des sciences sociales à l'Université Harvard. Il a reçu de nombreux prix, dont le prix Stanton de la Society for Philosophy and Psychology. Sa recherche a été financée par la National Science Foundation et la John Templeton Foundation. Greene a siégé à des comités consultatifs pour des initiatives d'éthique chez OpenAI et d'autres organisations d'IA, contribuant aux discussions sur le développement responsable de l'IA.
Son travail a été influent non seulement en psychologie et en philosophie, mais aussi en droit, en économie et en politique publique. Greene continue d'enseigner à Harvard et de superviser des étudiants diplômés travaillant à l'intersection de la psychologie morale et de l'éthique de l'IA.