Forskere ved Stanford University oppdager at Teslas autopilotteknologi ikke klarer å klassifisere folk på sykkel på riktig måte
I et forsøk på å forstå hvordan fremtidens selvkjørende biler kan samhandle med syklister, tok forskere ved Stanford University en Tesla Model S for en prøvetur, og resultatene er kanskje ikke gode nyheter for syklister.
Forskerne fant ut at bilen jevnlig ikke klarte å identifisere dem som kom seg rundt på sykkel i byens gater.
Selv om Tesla Model S-elbilen de testet ikke er selvkjørende, bruker den noen av systemene som senere kan bli brukt dersom teknologien, som for tiden prøves ut over hele verden, skulle bli lovlig.
Tesla hevder for tiden at alle kjøretøyene deres «har maskinvaren som trengs for full selvkjørende evne på et sikkerhetsnivå som er vesentlig høyere enn for en menneskelig sjåfør.»
Men, et medlem av Stanfords Center for Design Research, og en ekspert på menneske-robot-interaksjon og automatiserte kjøretøygrensesnitt, sa Dr Heather Knight som testet bilen at hun fant autopilotens agnostiske oppførsel rundt syklister "skremmende."
2016 Model S Tesla de kjørte har en situasjonsbevissthet som hjelper brukere å forstå hva bilen «ser».
Det var bruken av denne funksjonen som førte til at Dr Knight konkluderte med at bilen regelmessig ikke klarer å gjenkjenne syklister. Selv om det å unnlate å klassifisere objekter riktig ikke er det samme som å ikke legge merke til deres tilstedeværelse, syntes hun likevel at systemets begrensninger var dypt bekymrende.
'Å ikke kunne klassifisere objekter betyr ikke at Teslaen ikke ser at noe er der, men gitt livene som står på spill, anbefaler vi at folk aldri bruker Tesla-autopilot rundt syklister!'
Dr Knight forklarte at hun mente Teslas merking av teknologien som en «autopilot» potensielt var misvisende.
Slik det står, gjør Tesla det klart at det kreves tett brukertilsyn når bilen brukes i autopilotmodus. Men gitt bilens evne til å utføre oppgaver som å bytte kjørefelt og hastighet automatisk, reiste Dr Knight bekymringen for at brukere kunne bli lullet inn i en falsk oppblåst følelse av bilens evner.
Når hun fulgte opp svarene på det originale blogginnlegget hennes, forklarte hun: «Min bekymring var at behandling av autopilot som et fullstendig autonomt system kan være hensynsløst for en person i en bil, men dødelig for en syklist, som har mye mindre beskyttelse.
'Å oppmuntre til en balansert mental modell av maskinen er akkurat målet med denne artikkelen… Roboter generelt ville ha nytte av å kommunisere sine begrensninger til folk.’
I teorien er det langt mer sannsynlig at selvkjørende biler unngår kollisjoner med alle trafikanter, men introduksjonen av teknologien har vært årsaken til omfattende debatt.
Dette er spesielt tilfelle i forhold til spørsmål om ansvar i forbindelse med hendelser som involverer biler på autopilot, sammen med etikken ved bruk av slike systemer.
Testing av selvkjørende biler begynte i London i februar, med forsøkene med Nissans Leaf elbil som den første på europeiske offentlige veier.
Dr Knights fullstendige rapport er tilgjengelig på Medium.
Video fortsatt tatt fra en demonstrasjonsvideo for autopilot autonom kjøring for Tesla Model X
