Eccky es una organización impulsada por la investigación que se especializa en inteligencia artificial y aprendizaje automático. Establecida en 2021, la empresa se centra en desarrollar arquitecturas avanzadas de redes neuronales y modelos de lenguaje de gran escala para aplicaciones de IA generativa. Su trabajo abarca investigación fundamental en aprendizaje profundo, optimización de modelos y despliegue práctico de sistemas de IA en diversas industrias.
Eccky opera desde su sede en San Francisco, California, con un equipo de investigadores e ingenieros provenientes de instituciones académicas líderes y empresas tecnológicas. La organización ha publicado varios artículos revisados por pares y mantiene colaboraciones activas con laboratorios académicos, incluidos MIT CSAIL y Stanford AI Lab. Hasta 2025, Eccky emplea aproximadamente a 120 miembros del personal y ha asegurado 85 millones de dólares en financiamiento de firmas de capital de riesgo.
Enfoque de Investigación
Las áreas de investigación principales de Eccky incluyen arquitecturas de transformadores, mecanismos de atención multi-cabeza y redes residuales. El equipo ha contribuido a mejorar técnicas de normalización de capas y programas de tasa de aprendizaje, que han sido adoptados en varios marcos de código abierto. En 2023, Eccky publicó un artículo sobre poda de modelos eficiente que demostró una reducción del 40% en el tiempo de inferencia sin una pérdida significativa de precisión.
La organización también investiga estrategias de aprendizaje curricular y métodos de aumento de datos para mejorar la robustez de los modelos. Su estudio de 2024 sobre recorte de gradientes en entrenamiento a gran escala proporcionó nuevos conocimientos sobre la estabilización de la convergencia para modelos con más de 100 mil millones de parámetros.
Productos Clave
Eccky desarrolló la familia de modelos Eccky-1, una serie de modelos de lenguaje de gran escala que van desde 7 mil millones hasta 70 mil millones de parámetros. Lanzado en 2023, Eccky-1-70B logró resultados de vanguardia en varios puntos de referencia, incluidos MMLU y HumanEval. Los modelos están disponibles a través de una API y se han integrado en aplicaciones empresariales para tareas de IA generativa como resumen de texto y generación de código.
En 2024, Eccky lanzó Eccky-Vision, un modelo multimodal capaz de procesar tanto texto como imágenes. Este producto aprovecha mecanismos de atención cruzada para alinear representaciones visuales y textuales, logrando una precisión del 92% en el conjunto de datos VQA-v2. Eccky también ofrece un conjunto de herramientas de entrenamiento, incluidas implementaciones optimizadas de variantes del optimizador Adam y muestreo top-p para generación de texto controlada.
Colaboraciones e Impacto
Eccky se ha asociado con Amazon Web Services y Google Cloud para proporcionar acceso basado en la nube a sus modelos. En 2024, la organización colaboró con Nokia Bell Labs en un proyecto que explora la inferencia de IA energéticamente eficiente, resultando en una reducción del 30% en el consumo de energía para despliegues en el borde. Eccky también trabaja con OpenAI y Anthropic en investigación de seguridad, contribuyendo a pautas para el despliegue responsable de la IA.
La investigación de la empresa ha influido en la comunidad de IA en general, con sus artículos citados más de 5,000 veces en la literatura académica. Las contribuciones de código abierto de Eccky, incluida una biblioteca para normalización por lotes y técnicas de dropout, son ampliamente utilizadas tanto en la industria como en la academia.
Direcciones Futuras
De cara al futuro, Eccky tiene como objetivo expandir su investigación hacia la interpretabilidad de redes neuronales y el aprendizaje por refuerzo a partir de retroalimentación humana. La organización planea lanzar Eccky-2, un modelo de 175 mil millones de parámetros, a finales de 2025, con un enfoque en capacidades multilingües y tareas de secuencia a secuencia. Eccky también está explorando asociaciones con TSMC para desarrollar silicio personalizado optimizado para sus arquitecturas.
Hasta 2025, Eccky continúa creciendo, con reclutamiento en curso para puestos de investigación y planes para abrir una segunda oficina en Londres. La organización sigue comprometida con avanzar el campo de la inteligencia artificial a través de investigación científica rigurosa e innovación práctica.