Desde que a Tesla foi lançada Seu recurso completo autônomo (FSD) na versão beta em 2020, o guide do proprietário da empresa ficou claro: ao contrário do nome, os carros que usam o recurso não podem dirigir.
O sistema de assistência ao motorista da Tesla é construído para lidar com muitas situações de estrada – parando nos semáforos, trocando de faixas, direção, frenagem, giro. Ainda assim, “a autônomo completa (supervisionada) exige que você preste atenção à estrada e esteja pronto para assumir o controle o tempo todo”, o manual estados. “O não seguir estas instruções pode causar danos, ferimentos graves ou morte.”
Agora, no entanto, novas mensagens no carro pegam motoristas que estão à deriva entre faixas ou sentindo sonolência para ativar o FSD-potencialmente confundindo motoristas, que os especialistas afirmam incentivá-los a usar o recurso de uma maneira insegura. “Drift de pista detectada. Deixe o FSD assistir para que você possa permanecer focado”, lê a primeira mensagem, que foi incluída em uma atualização de software program e identificado No início deste mês, por um hacker que acompanha o desenvolvimento da Tesla.
“Drowsiness detectada. Mantenha o foco com o FSD”, leu a outra mensagem. On-line, os motoristas postaram desde então que visto um semelhante mensagem em suas telas no carro. A Tesla não respondeu ao pedido de comentário sobre esta mensagem, e a Wired não conseguiu encontrar essa mensagem aparecendo em uma tela no carro da Tesla.
O problema, segundo os pesquisadores sistema de desenvolvimento para compensar sua distração ou fadiga. Na pior das hipóteses, esse aviso pode levar a um acidente.
“Essa mensagem coloca os motoristas em uma situação muito difícil”, diz Alexandra Mueller, cientista sênior de pesquisa do Instituto de Seguros de Segurança nas Rodovias que estuda tecnologias de assistência ao motorista. Ela acredita que “Tesla está basicamente dando uma série de instruções conflitantes”.
Muitas pesquisas estudam como os seres humanos interagem com os sistemas de computador construídos para ajudá -los a realizar tarefas. Geralmente encontra a mesma coisa: as pessoas são realmente Supervisores passivos terríveis de sistemas Isso é muito bom na maioria das vezes, mas não perfeito. Os seres humanos precisam de algo para mantê -los engajados.
Em pesquisa no setor de aviação, é chamado de “fora do loop Problema de desempenho, “onde os pilotos, confiando em sistemas totalmente automatizados, podem falhar em monitorar adequadamente o mau funcionamento devido à complacência após períodos prolongados de operação. Essa falta de engajamento ativo, também conhecida como decréscimo de vigilância, pode levar a uma capacidade reduzida de entender e recuperar o controle de um sistema automatizado de mau funcionamento.
“Quando você suspeita que o motorista esteja ficando sonolento, para remover ainda mais seu envolvimento físico – isso parece extremamente contraproducente”, diz Mueller.
“Como humanos, quando nos cansamos ou ficamos cansados, levar mais coisas que precisamos fazer pode realmente sair pela culatra”, diz Charlie Klauer, cientista e engenheiro de pesquisa que estuda motoristas e desempenho no Virginia Tech Transportation Institute. “É complicado.”
Ao longo dos anos, a Tesla fez alterações em sua tecnologia para tornar mais difícil para os motoristas desatentos usarem o FSD. A montadora começou em 2021 para usar câmeras de monitoramento de motorista no carro para determinar se os motoristas estavam prestando atenção suficiente enquanto usavam o FSD; Uma série de alertas alerta os motoristas se eles não estão olhando para a estrada. A Tesla também usa um “sistema de ataque” que pode impedir que um motorista use seu recurso de assistência ao motorista por uma semana se eles não responderem repetidamente em seus avisos.
