Elaine Herzberg (nascida em 1968) foi uma pedestre que morreu em 18 de março de 2018, em Tempe, Arizona, após ser atingida por um veículo de teste autônomo operado pela Uber. Sua morte é amplamente reconhecida como a primeira fatalidade registrada envolvendo um veículo totalmente autônomo no tráfego público, o que provocou escrutínio regulatório e uma reavaliação em toda a indústria dos protocolos de segurança de direção autônoma.
Por volta das 21h58, horário local, Herzberg atravessava uma via de quatro pistas fora de uma faixa de pedestres demarcada enquanto empurrava uma bicicleta. O veículo de teste da Uber, um Volvo XC90 modificado equipado com sensores e software de aprendizado de máquina, estava em modo autônomo com um motorista de segurança humano ao volante. O veículo não freou, e Herzberg morreu no local. O incidente ocorreu na cidade de Tempe, que havia se tornado um polo para testes de veículos autônomos devido às regulamentações permissivas do Arizona.
Veículo e Tecnologia
O veículo de teste da Uber dependia de um conjunto de lidar, radar e câmeras, processados por computadores de bordo que executavam algoritmos de aprendizado profundo para detecção de objetos e tomada de decisões. De acordo com investigações posteriores, o sistema identificou Herzberg inicialmente como um objeto desconhecido, depois como uma bicicleta, mas não a classificou como uma pedestre que exigisse frenagem imediata. A motorista de segurança, Rafaela Vasquez, estava supostamente olhando para um telefone e não reagiu até menos de um segundo antes do impacto.
O software do veículo tinha um design que priorizava evitar falsos positivos, o que significava que às vezes ignorava objetos que não eram claramente classificados. Essa compensação, comum em sistemas de percepção baseados em redes neurais, contribuiu para a falha. O sistema lidar detectou Herzberg cerca de 1,3 segundo antes da colisão, mas o modelo de aprendizado de máquina não acionou uma parada de emergência.
Investigação e Consequências
O National Transportation Safety Board (NTSB) investigou o acidente e divulgou seu relatório final em novembro de 2019. O NTSB concluiu que a cultura de segurança da Uber era inadequada, citando falta de supervisão robusta dos motoristas de teste e um sistema de frenagem de emergência desativado. A frenagem automática de emergência do veículo havia sido desligada para reduzir ativações falsas, e a Uber não havia implementado um sistema para monitorar efetivamente a atenção dos motoristas.
Em março de 2019, o escritório do procurador do Condado de Maricopa determinou que a Uber não era criminalmente responsável, mas a motorista de segurança, Rafaela Vasquez, foi acusada de homicídio culposo. Em julho de 2023, Vasquez se declarou culpada de colocação em perigo e foi condenada a três anos de liberdade condicional. A Uber resolveu um processo civil com a família de Herzberg em 2018 por um valor não divulgado.
Impacto Regulatório
A morte levou a suspensões imediatas dos testes de veículos autônomos em várias jurisdições, incluindo Arizona, Califórnia e Pittsburgh. A Uber interrompeu seu programa de direção autônoma por vários meses e posteriormente retomou testes limitados com medidas de segurança mais rígidas. O incidente também influenciou legislação federal e estadual, com muitos estados dos EUA introduzindo novos requisitos para relatar acidentes e garantir o engajamento dos motoristas.
Globalmente, o caso se tornou um ponto de referência para debates sobre responsabilidade em inteligência artificial e o design ético de sistemas autônomos. Ele destacou as limitações das abordagens atuais de aprendizado profundo no tratamento de casos extremos e impulsionou pesquisas em fusão de sensores mais robusta e métodos de validação de segurança.
Legado e Contexto Mais Amplo
A morte de Herzberg é frequentemente citada em discussões sobre segurança de IA e a implantação de sistemas de aprendizado de máquina em ambientes de alto risco. Ela sublinhou a lacuna entre testes controlados e a imprevisibilidade do mundo real, incluindo fatores como iluminação precária, travessia fora da faixa e objetos incomuns. O incidente acelerou os esforços de empresas como Waymo e Tesla Autopilot para melhorar algoritmos de percepção e implementar mecanismos de segurança redundantes.
Nos anos seguintes, os testes de veículos autônomos foram retomados em muitas cidades, mas com supervisão mais rigorosa. O caso permanece um conto de advertência na comunidade de IA generativa e inteligência artificial em geral, ilustrando que mesmo sistemas avançados de redes neurais podem falhar em circunstâncias imprevistas. Também contribuiu para o desenvolvimento de RLAIF e outros métodos de treinamento destinados a melhorar a tomada de decisões sob incerteza.
Considerações Públicas e Éticas
A tragédia levantou questões éticas sobre quem é responsável quando um sistema de IA causa danos. Estudiosos do direito e eticistas debateram se o fabricante, o desenvolvedor de software ou o operador humano deveria arcar com a responsabilidade. O caso influenciou discussões sobre alinhamento de IA e a necessidade de interpretação transparente de modelos em aplicações críticas de segurança.
A família de Herzberg tornou-se defensora de regulamentações mais rígidas para veículos autônomos, e seu nome é frequentemente invocado em documentos de políticas e padrões de segurança. O incidente é um evento marcante na história da direção autônoma, comparável aos primeiros acidentes de aviação que moldaram as regulamentações modernas de segurança. Em 2024, nenhuma fatalidade semelhante de pedestre envolvendo um veículo totalmente autônomo foi registrada, embora o caso continue a informar pesquisas em andamento em visão computacional e robótica.