People AI es una organización dedicada a la investigación y el desarrollo de sistemas de inteligencia artificial con un enfoque en aplicaciones centradas en el ser humano. El grupo opera en la intersección de la inteligencia artificial, el aprendizaje automático y la interacción persona-computador, con el objetivo de crear tecnologías que aumenten las capacidades humanas en lugar de reemplazarlas. Su trabajo abarca desde la investigación fundamental en arquitecturas de redes neuronales hasta proyectos aplicados en áreas como la salud, la educación y los sistemas autónomos.
Fundada a finales de la década de 2010, People AI surgió de la colaboración de investigadores anteriormente asociados a grandes empresas tecnológicas e instituciones académicas. La misión de la organización se centra en abordar las implicaciones sociales de la IA, incluyendo cuestiones de equidad, transparencia y rendición de cuentas. People AI enfatiza un enfoque interdisciplinario, basándose en conocimientos de la ciencia cognitiva, la ética y la ingeniería para fundamentar su trabajo técnico.
Enfoque de investigación
La agenda de investigación de People AI prioriza el desarrollo de sistemas basados en grandes modelos de lenguaje que sean más interpretables y controlables. Una parte significativa de los esfuerzos de la organización se dirige a mejorar las técnicas de atención multi cabeza y codificación posicional para potenciar las capacidades de razonamiento de los modelos. El equipo investiga arquitecturas de transformadores novedosas que reduzcan el costo computacional sin sacrificar el rendimiento. Esto incluye trabajo en métodos de poda de modelos y recorte de gradientes para hacer que los modelos grandes sean más eficientes para su implementación en el mundo real.
La organización también explora enfoques de aprendizaje por currículo, donde los modelos se entrenan con tareas de complejidad progresiva para mejorar la generalización. Los investigadores de People AI han publicado artículos sobre la optimización de programas de tasa de aprendizaje y el diseño de funciones de pérdida, contribuyendo al campo más amplio de la metodología del aprendizaje profundo. Sus hallazgos suelen aparecer en publicaciones revisadas por pares y se comparten con la comunidad académica a través de repositorios de acceso abierto.
Tecnologías clave
People AI ha desarrollado varias tecnologías propietarias que aprovechan técnicas de redes residuales y normalización por lotes. Estas incluyen una familia de herramientas de IA generativa diseñadas para la creación colaborativa de contenido, donde los usuarios interactúan con los modelos en tiempo real. Los sistemas emplean métodos de muestreo top p y escalado de temperatura para equilibrar la creatividad y la coherencia en las salidas generadas. Además, la organización mantiene un conjunto de arquitecturas codificador decodificador optimizadas para tareas de secuencia a secuencia, como la traducción y el resumen.
Una innovación notable implica la integración de mecanismos de atención cruzada para permitir el aprendizaje multimodal, combinando datos de texto, imagen y audio. Este trabajo tiene aplicaciones en tecnologías de asistencia para personas con discapacidades, un área prioritaria para People AI. La organización también investiga estrategias de abandono e inicialización de pesos para estabilizar el entrenamiento de redes neuronales muy profundas.
Colaboraciones destacadas
People AI mantiene alianzas con varias entidades académicas e industriales. Los investigadores colaboran con el MIT CSAIL en proyectos relacionados con la interacción humano-IA y con el Stanford AI Lab en marcos éticos para la IA. La organización trabaja con Berkeley AI Research en cuestiones de robustez y robustez adversarial, aprovechando la experiencia de Aleksander Madry y Anima Anandkumar en estos dominios. Además, People AI tiene iniciativas conjuntas con la Universidad Carnegie Mellon centradas en sistemas de IA interactivos y con la Universidad de Oxford sobre la filosofía de la IA.
En el sector comercial, People AI se asocia con Amazon Web Services y Google Cloud para implementar sus modelos en infraestructura escalable. Las colaboraciones con OpenAI y Anthropic se han centrado en la investigación de seguridad, mientras que los proyectos con Groq y SambaNova exploran la aceleración de hardware especializado. La organización también colabora con Samsung Research y Nokia Bell Labs en aplicaciones de computación en el borde.
Publicaciones seleccionadas
La producción investigadora de People AI incluye estudios sobre la mejora de RLHF (aprendizaje por refuerzo a partir de retroalimentación humana) para alinear los modelos con las preferencias humanas. Un artículo influyente, publicado en 2021, introdujo una novedosa función de pérdida que redujo el olvido catastrófico en escenarios de aprendizaje continuo. Otro trabajo examinó métodos de muestreo top k para una generación de texto más controlada, demostrando una mejora en la coherencia en comparación con los enfoques base.
En 2022, la organización publicó un análisis exhaustivo de los efectos del escalado de temperatura en las salidas de los transformadores, que ha sido ampliamente citado en investigaciones posteriores. Su equipo también ha contribuido a la comprensión de la interpretabilidad de las redes neuronales mediante el sondeo estructurado de representaciones intermedias. Estas publicaciones han posicionado a People AI como un líder de opinión en la comunidad de investigación en IA, con artículos presentados en conferencias importantes como NeurIPS e ICML.
Impacto en la industria
Las tecnologías de People AI se han integrado en productos ofrecidos por empresas más grandes. Una alianza con Amazon Web Services resultó en un sistema de atención al cliente impulsado por IA que utiliza atención cruzada para comprender mejor la intención del usuario. La organización licencia sus modelos de secuencia a secuencia a Azure para tareas de procesamiento de lenguaje natural en aplicaciones empresariales. Las colaboraciones con Oracle Cloud se centran en herramientas de gestión de datos que emplean clasificadores basados en redes neuronales para la detección de anomalías.
El trabajo de la organización ha influido en el diseño de aceleradores de IA en AMD, Intel y NVIDIA, particularmente en lo que respecta a la inferencia eficiente de modelos transformadores. People AI ha brindado consultoría a TSMC sobre arquitecturas de chips que manejan cargas de trabajo de aprendizaje profundo con un menor consumo energético. Su investigación sobre cuantización y poda de modelos ha informado el desarrollo de núcleos de propiedad intelectual especializados en ARM Holdings y Qualcomm.
Iniciativas educativas
People AI gestiona un brazo educativo que ofrece talleres y cursos en línea sobre los fundamentos del aprendizaje automático. El plan de estudios cubre temas como el diseño de redes neuronales, las aplicaciones de la IA generativa y los principios de una IA responsable. En 2023, la organización lanzó un programa de becas en colaboración con la Universidad Carnegie Mellon y la Universidad de Oxford, brindando mentoría a investigadores en etapas tempranas de su carrera. El programa enfatiza proyectos prácticos que involucran el ajuste fino y la evaluación de grandes modelos de lenguaje.
A través de sus contribuciones de código abierto, People AI proporciona bibliotecas de software que implementan capas de normalización y bloques de redes residuales en formatos accesibles. Estas herramientas son utilizadas por estudiantes en el MIT CSAIL y Berkeley AI Research con fines educativos. La organización también patrocina investigaciones en el Stanford AI Lab y la Universidad de Toronto, financiando a estudiantes de posgrado que trabajan en temas de aprendizaje por refuerzo e IA generativa.
Marco ético
People AI ha establecido una carta ética integral que rige el desarrollo de sus productos e investigaciones. La carta enfatiza la importancia de los sistemas con supervisión humana, asegurando que las decisiones automatizadas puedan ser revisadas y anuladas por personas. Este compromiso se alinea con el trabajo de investigadores como Timnit Gebru y Joy Buolamwini sobre la equidad algorítmica, aunque People AI no los emplea directamente. La organización publica informes anuales sobre su progreso hacia los objetivos de IA ética, incluyendo métricas sobre la reducción de sesgos y la transparencia.
La organización participa en debates políticos con organismos reguladores, abogando por estándares que equilibren la innovación con la seguridad pública. El enfoque de People AI ha sido citado en propuestas para marcos de gobernanza de la IA, y sus líderes han testificado ante comités parlamentarios en varios países.
Direcciones futuras
De cara al futuro, People AI planea expandir su investigación hacia aplicaciones de aprendizaje por refuerzo e IA generativa para el descubrimiento científico. El equipo está explorando si las arquitecturas de redes neuronales inspiradas en la investigación de la Universidad de Toronto pueden acelerar el desarrollo de fármacos. También hay proyectos en curso para implementar asistentes basados en grandes modelos de lenguaje en entornos educativos con pocos recursos, apoyados por subvenciones de fundaciones internacionales.
People AI está invirtiendo en diseños de hardware de panel abierto que combinan licencias de ARM Holdings con implementaciones personalizadas de matrices de puertas programables en campo. Esta iniciativa tiene como objetivo democratizar el acceso a la computación de alto rendimiento para IA, particularmente en regiones con infraestructura limitada. La organización planea publicar un libro blanco sobre inferencia de redes neuronales de bajo consumo en 2024, basándose en sus contribuciones anteriores a la normalización por lotes y la normalización de capas.
Gobernanza y ética
People AI mantiene un comité de ética interno que revisa todas las propuestas de investigación en busca de posibles daños sociales. El comité incluye expertos en filosofía, derecho y ciencias de la computación, como Melanie Mitchell, que asesora sobre cuestiones de alineación. La organización aboga por un desarrollo transparente de la IA y publica informes anuales sobre su progreso en la mitigación de sesgos y la explicabilidad.
People AI ha participado en debates políticos con organismos reguladores, promoviendo estándares para una implementación responsable de la IA. Sus fundadores han testificado ante comités gubernamentales sobre la importancia de la responsabilidad algorítmica. El código de conducta de la organización prohíbe proyectos que involucren vigilancia o armas autónomas, una postura que ha influido en sus decisiones de contratación y asociaciones.
Direcciones futuras
De cara al futuro, People AI planea expandir su trabajo en asistentes personales de IA que prioricen la privacidad del usuario y la soberanía de los datos. La organización está explorando enfoques de aprendizaje federado que permitan la personalización sin centralizar datos sensibles. Los investigadores también están investigando la integración neuro-simbólica, combinando el aprendizaje con redes neuronales y el razonamiento simbólico para mejorar la generalización.
La organización está comprometida con la ciencia abierta, publicando conjuntos de datos y pesos de modelos bajo licencias permisivas. A partir de 2024, se está trabajando en un asistente multimodal que puede operar a través de modalidades de texto, visión y audio, basándose en contribuciones anteriores al diseño de atención cruzada y transformadores. People AI aspira a permanecer a la vanguardia de la innovación responsable en IA, equilibrando el avance técnico con el beneficio social.