Waymo robotaxi stopt, arresteert jongeren met ghost gun

Twee minderjarige rijders worden in San Francisco gearresteerd terwijl ze in een Waymo-robotaxi zitten, die zonder bestuurder door de software zich voortbewoog. De politie vindt een geladen AR-style ghost-gun in hun bezit en brengt de jongeren naar een jeugdgevangenis, waar zij onder toezicht worden geplaatst.

Het voertuig stopt onverwacht en meldt de overtreding aan de autoriteiten, waarna agenten onmiddellijk arriveren. Het incident vindt plaats zonder dat duidelijk is wie de autonome auto bestuurde, omdat het politierapport geen informatie geeft over een eventuele menselijke operator.

Waymo bevestigt later aan de Los Angeles Times dat één van haar voertuigen de interventie heeft uitgevoerd, waarmee het bedrijf aangeeft dat de software de afwijking zelfstandig heeft gedetecteerd. Een woordvoerder legt uit dat een schending van de servicevoorwaarden rond vuurwapens werd gedetecteerd, waarna de auto de politie alarmeerde en een realtime waarschuwing verzond.

De bevestiging laat zien dat de autonome systemen nog steeds moeten reageren op illegale voorwerpen en dat er een beleid bestaat om dergelijke overtredingen direct te melden.

Meer details staan op de pagina van The Verge.