Salesforce Research es la división de investigación en inteligencia artificial de Salesforce, una empresa de software basado en la nube con sede en San Francisco, California. El grupo lleva a cabo investigación fundamental y aplicada en inteligencia artificial, aprendizaje automático y campos relacionados, con un énfasis particular en el procesamiento del lenguaje natural, la visión por computadora y el aprendizaje por refuerzo. Su trabajo se integra en los productos de gestión de relaciones con clientes (CRM) de Salesforce, incluidas las funciones de IA de Einstein que ayudan a los equipos de ventas, servicio y marketing.
La organización se estableció en 2014 bajo el liderazgo de Richard Socher, quien se desempeñó como científico principal hasta 2020. Opera como un laboratorio de investigación corporativo, similar en alcance a Google DeepMind u OpenAI, pero con un enfoque en software empresarial en lugar de IA de propósito general. Salesforce Research ha publicado cientos de artículos revisados por pares en conferencias importantes como NeurIPS, ICML y ACL, y mantiene colaboraciones con instituciones académicas como Stanford AI Lab, MIT CSAIL y University of Toronto.
Contribuciones clave a la IA
Salesforce Research es mejor conocido por desarrollar la arquitectura basada en transformadores llamada ProTran, presentada en 2019, que mejoró la eficiencia del entrenamiento de modelos de lenguaje grandes mediante el uso de un mecanismo de atención dinámica de token a token. Este trabajo influyó en modelos posteriores en el campo, aunque no alcanzó la misma prominencia comercial que los modelos de OpenAI o Anthropic. El grupo también contribuyó al aprendizaje secuencia a secuencia, particularmente en el contexto de la IA conversacional y la respuesta a preguntas.
En 2020, Salesforce Research lanzó CTRL, un modelo de lenguaje transformador condicional que podía controlarse mediante códigos de control para generar texto con estilos o temas específicos. Este fue uno de los primeros esfuerzos para hacer que las salidas de IA generativa fueran más dirigibles, un concepto adoptado posteriormente por otros laboratorios. El equipo también desarrolló el conjunto de datos QuALITY para la comprensión lectora de documentos largos, que se convirtió en un punto de referencia para evaluar modelos de aprendizaje profundo en tareas de razonamiento complejo.
Áreas de investigación y proyectos
La investigación de la división abarca varias áreas centrales. En procesamiento del lenguaje natural, ha trabajado en mecanismos de atención de múltiples cabezas y mejoras de codificación posicional para un mejor manejo de secuencias largas. En visión por computadora, Salesforce Research ha explorado variantes de redes residuales y técnicas de aumento de datos para la clasificación de imágenes en contextos de comercio minorista y electrónico. Los proyectos de aprendizaje por refuerzo se han centrado en aprendizaje curricular y Reinforcement Learning from AI Feedback (RLAIF) (aprendizaje por refuerzo a partir de retroalimentación de IA) para entrenar agentes para la automatización del servicio al cliente.
Un proyecto notable es el desarrollo de la plataforma Einstein, que utiliza modelos de redes neuronales para predecir la pérdida de clientes, recomendar productos y automatizar respuestas de correo electrónico. El equipo de investigación también contribuyó a la biblioteca de código abierto basada en PyTorch, incluidas las primeras versiones de la biblioteca 'transformers', aunque ese proyecto luego se volvió independiente. Además, Salesforce Research ha publicado trabajos sobre poda de modelos y normalización de capas para hacer que los modelos sean más eficientes para su implementación en infraestructura en la nube como Amazon Web Services y Microsoft Azure.
Liderazgo e investigadores notables
Richard Socher, ex investigador de Stanford AI Lab, fundó el grupo y lo dirigió hasta 2020, cuando lo dejó para iniciar una nueva empresa. Los líderes posteriores incluyeron a Caiming Xiong, quien se convirtió en vicepresidente de investigación, y Nikhil Naik, quien dirigió la investigación aplicada. El equipo ha incluido figuras prominentes como Stephen Merity, conocido por su trabajo en redes neuronales recurrentes, y Bryan McCann, quien contribuyó a las arquitecturas codificador-decodificador. Varios investigadores se han trasladado a otras organizaciones de IA, incluidos Google DeepMind y OpenAI, lo que refleja la influencia del grupo en el campo.
A partir de 2024, Salesforce Research emplea a más de 100 investigadores e ingenieros, con oficinas en Palo Alto, Nueva York y Londres. El grupo publica sus hallazgos abiertamente, pero también presenta patentes sobre tecnologías propietarias, equilibrando la apertura académica con los intereses comerciales. Su presupuesto anual no se divulga públicamente, pero se financia a través del gasto general en I+D de Salesforce, que superó los 4 mil millones de dólares en el año fiscal 2023.
Impacto y posición en la industria
Salesforce Research se considera un laboratorio corporativo de IA de nivel medio, menos prominente que Google DeepMind u OpenAI, pero más centrado en aplicaciones empresariales prácticas. Sus modelos se han implementado en el conjunto Einstein de Salesforce, que atiende a más de 150,000 clientes. El grupo también ha contribuido a los ecosistemas de código abierto, publicando código para sus variantes de transformadores y conjuntos de datos, que han sido citados en más de 10,000 artículos académicos.
En comparación con competidores como los laboratorios de IA de Amazon Web Services o los equipos de investigación de Google Cloud, Salesforce Research enfatiza soluciones específicas de dominio para CRM, como el análisis de sentimientos y la puntuación de clientes potenciales. No ha perseguido la inteligencia artificial de propósito general ni los objetivos de AGI, centrándose en cambio en modelos estrechos y específicos de tareas. Esta elección estratégica le ha permitido mantener su relevancia en el mercado de software empresarial, aunque ha recibido menos atención mediática que las organizaciones de investigación de IA más grandes.
Direcciones futuras
De cara al futuro, Salesforce Research está invirtiendo en IA generativa para aplicaciones empresariales, incluida la generación automatizada de informes y el resumen de interacciones con clientes. También está explorando técnicas de ajuste fino de modelos de lenguaje grandes utilizando funciones de pérdida y escalado de temperatura para mejorar la fiabilidad de las salidas. El grupo ha anunciado asociaciones con NVIDIA y AMD para optimizar el entrenamiento de modelos en hardware especializado, aunque los detalles específicos aún están en desarrollo. A partir de 2025, continúa publicando investigaciones sobre métodos eficientes de aprendizaje profundo, con el objetivo de reducir el costo computacional de la IA mientras mantiene la precisión.