Elon Musk erkent dat hij de moeilijkheden bij het verbeteren van Autopilot heeft onderschat. Tesla’s vlaggenschip fabrikant van elektrische auto’s is het Autopilot-systeem.
Hun betrouwbaarheid en veiligheid worden steeds moeilijker te realiseren.
Full-Self Driving-software blijft een enorme uitdaging voor het bedrijf van Musk, zoals de miljardair onlangs opmerkte.
Haha, FSD 9 beta wordt binnenkort verzonden, ik zweer het!
Gegeneraliseerd zelfrijden is een moeilijk probleem, omdat het een groot deel van de echte AI moet oplossen. Had niet verwacht dat het zo moeilijk zou zijn, maar achteraf is de moeilijkheid duidelijk.
Niets heeft meer vrijheidsgraden dan de werkelijkheid.
— Elon Musk (@elonmusk) 3 juli 2021
Dit weekend merkte Musk op: “De FSD 9-bèta wordt binnenkort verzonden (…) Ik zweer het!”. Hij had het al in 2018 beloofd en daarna in 2019. Al in 2021 doet hij het opnieuw.
“Alomtegenwoordig autonoom rijden is een moeilijk probleem, omdat het een groot deel van real-world AI vereist”, legt Tesla’s CEO uit. “We hadden niet verwacht dat het zo ingewikkeld zou zijn, maar achteraf is de moeilijkheid duidelijk.”
“Niets heeft meer vrijheidsgraden dan de realiteit”, dacht Musk.
Elon Musk en kritiek op Autopilot
Herinnert The Verge eraan dat Tesla de veiligheid van Autopilot hooghoudt, maar zolang de bestuurder aandachtig achter het stuur blijft. Onlangs voegde het aan zijn detectiesysteem een camera toe die de gebruiker op de een of andere manier in de gaten houdt.
Zoek een (lege!) weg met een scherpe bocht en richt de automatische piloot erop. Zorg voor de meeste veiligheid dat er een extra ruimte buiten de bocht is, zodat je de auto kunt opvangen voordat hij tegen dingen botst en boem!
(dit is 2021.4.18.3 btw)Denk eraan om altijd op te letten wanneer u op AP bent! pic.twitter.com/g4ukeo82X5
— groen (@greentheonly) 4 juli 2021
Het gebeurde in China: een voertuig met Tesla’s Autopilot-systeem crashte toen het niet veilig kon draaien. De video, getoond door gebruiker @greentheonly, laat zien hoe de auto “verschillende waarschuwingen afgeeft voor de uiteindelijke overname die we opgeven”. Het gebeurt in 50% van de tests, volgens de gebruiker die door The Verge wordt geciteerd.
Ondertussen demonstreerde een groep ingenieurs in april in een video hoe je het stuurautomaatsysteem voor de gek kunt houden. Het doel was om het te activeren zonder dat er iemand voor het stuur zat.
Het officiële YouTube-kanaal van Consumer Reports plaatste de controversiële video waarin ze demonstreerden hoe ze de systemen van een Model Y konden misleiden, zodat de Autopilot zou draaien zonder iemand achter het stuur.
Het was voldoende om de veiligheidsgordel van de bestuurder vast te maken, een ketting en een aantal basiscontragewichten te gebruiken om de Autopilot soepel te laten werken.
“In onze evaluatie”, merkt Consumer Reports op, “verzekerde het systeem er niet alleen van dat de bestuurder goed oplette. Maar het kon ook niet zien of er überhaupt een chauffeur was.”
“Veiligheidsadvocaten en Consumer Reports-onderzoekers zeggen dat het aantoont dat controlesystemen voor bestuurders harder moeten werken om te voorkomen dat bestuurders de systemen op voorspelbaar gevaarlijke manieren gebruiken.”
Meer veiligheid, dat is alles
The Verge: “Het aantal openstaande onderzoeken naar auto-ongelukken waarbij Tesla Autopilot betrokken is, lijkt te groeien in omgekeerde verhouding tot de verwachtingen van de klant over het vermogen van Musk om zijn beloften na te komen.”
Voorlopig hoef je alleen nog maar te blijven werken… maar niet zozeer opscheppen. De weg is nog lang, voordat de veiligheid van Tesla chauffeurs.
