Uber sozinho

Jun 13, 2023

Olá e bem-vindo de volta ao Eye on AI. Sou Sage Lazzaro, substituindo Jeremy.

Enquanto a maioria das pessoas se desconectava na noite de sexta-feira para aproveitar outro fim de semana de verão sufocante, um caso jurídico histórico sobre quem é o responsável quando a IA está diretamente envolvida em danos físicos no mundo real finalmente chegou ao fim após cinco anos.

Rafaela Vasquez, a operadora ao volante de um carro de teste autônomo do Uber que atropelou e matou um pedestre em Tempe, Arizona, em 2018, se declarou culpada de uma acusação de perigo. O juiz do Tribunal Superior do Condado de Maricopa, David Garbarino, aceitou o acordo judicial e a sentenciou a três anos de liberdade condicional supervisionada, encerrando o caso para sempre. Vasquez foi originalmente acusado de homicídio por negligência, um crime que acarreta pena de até oito anos de prisão.

O acidente de 2018, onde uma mulher chamada Elaine Herzberg morreu enquanto atravessava a rua de bicicleta, foi a primeira colisão fatal envolvendo um veículo totalmente autônomo. O caso prendeu os observadores à medida que Uber e Vasquez tentavam desviar a culpa por uma situação que não só carecia de precedentes, mas suscitava várias questões sobre responsabilidade num mundo onde os trabalhadores humanos monitorizam cada vez mais as máquinas de IA, seguindo a orientação dos algoritmos e sentando-se na linha da frente. de sistemas de IA imperfeitos construídos por engenheiros corporativos.

Quando o acidente aconteceu inicialmente, Vasquez pensou que a Uber a apoiaria, de acordo com uma entrevista detalhada à Wired publicada no ano passado. Ela estava genuinamente entusiasmada com a indústria florescente e se via como uma orgulhosa administradora da empresa, fazendo seu trabalho de monitorar os veículos autônomos da empresa à medida que acumulavam milhas de prática. O Arizona, que estava afrouxando as restrições para atrair mais negócios de empresas do Vale do Silício, tornou-se recentemente um paraíso para o programa de testes na estrada do Uber depois que a Califórnia revogou os registros dos carros do Uber. O médico legista classificou oficialmente a morte de Herzberg como um acidente, e o Uber inicialmente forneceu um advogado a Vasquez, mas as interações com seu supervisor rapidamente passaram de “consoladoras a enervantes”, de acordo com a Wired.

A maré realmente mudou para Velasquez quando a investigação revelou que seu telefone pessoal estava transmitindo o programa de TV The Voice no momento do acidente. As imagens da Dashcam também mostraram que ela estava olhando para baixo momentos antes da colisão, e a análise policial determinou posteriormente que Vasquez poderia ter assumido o controle do carro a tempo e considerado o incidente “totalmente evitável”.

Embora o caso não tenha ido a julgamento, a defesa de Vasquez estava repleta de argumentos que apontavam a culpa para seu empregador. Em ações judiciais, Vasquez alegou que não estava assistindo, mas apenas ouvindo o The Voice, o que era permitido pelas diretrizes do Uber. E quando ela estava olhando para baixo, era para verificar as mensagens do Slack em seu dispositivo de trabalho, que ela disse que precisava ser monitorado em tempo real. Historicamente, isso era feito por um segundo operador, mas o Uber revogou recentemente a exigência de ter dois operadores de teste em cada veículo e agora tinha motoristas reserva como Vasquez trabalhando sozinhos. Isto mudou a dinâmica do trabalho, incluindo a forma como os operadores inserem o seu feedback sobre o sistema de condução, e levou a longos e solitários turnos circulando pelas mesmas estradas, geralmente sem incidentes ou necessidade de intervenção.

Em outra parte importante de sua defesa pré-julgamento, os advogados de Vasquez citaram uma decisão do Conselho Nacional de Segurança nos Transportes que concluiu que o carro não conseguiu identificar Herzberg como um pedestre, o que causou a falha na frenagem. O conselho também concluiu que a Uber tinha “uma cultura de segurança inadequada” e não conseguiu evitar a “complacência da automação” entre os seus operadores de teste, um fenómeno bem documentado em que os trabalhadores encarregados de monitorizar sistemas automatizados passam a confiar que as máquinas os têm sob controlo e param. prestando atenção. Além disso, um ex-gerente de operações da empresa apresentou uma denúncia sobre um padrão de práticas inadequadas de segurança na divisão de carros autônomos poucos dias antes do acidente.