Producatorii de masini fara sofer au lucrat din greu pentru a dezvolta tehnologii pentru masinile fara sofer, iar printre acestea se numara senzori si algoritmi pentru a detecta obstacolele din jurul lor, in asa fel incat masinile fara sofer sa stie cand sa franeze, cum sa le evite si asa mai departe.
Cu toate acestea, se pare ca pacalirea unei masini fara sofer este, se pare, destul de usoara si nu necesita o tehnologie prea avansata. Aceasta poate fi pacalita pur si simplu prin modificarea unui semn de circulatie.
Intr-o stire de Car and Driver (citata de WIRED), se pare ca cercetatorii de la Universitatea Washington au descoperit ca acestia pot pacali cu usurinta masinile fara sofer prin modificarea semnelor de circulatie.
A fost nevoie doar sa puna autocolante pe semnele de circulatie ca sa pacaleasca algoritmul de detectare a imaginii al masinii fara sofer ca avea in fata un semn de circulatie de reducere a vitezei, in loc de unul de stop.
Pericolele sunt destul de evidente, avand in vedere ca asta inseamna ca ai putea pacali masinile fara sofer sa accelereze cand acestea trebuie sa incetineasca, sau sa opreasca atunci cand acestea ar trebui sa continue sa mearga.
Aceste lucruri ar putea duce la accidente. Ceea ce este infricosator este ca imaginile nu au fost modificate prea tare, dar totusi au fost interpretate ca fiind ceva in intregime diferit.
De exemplu, cercetatorii au printat un semn de circulatie pentru intoarcere la dreapta cu cateva modificari usoare si l-au suprapus peste un semn de circulatie real de intoarcere la dreapta, ceea ce a pacalit algoritmul masinii fara sofer sa creada ca este un semn de circulatie de reducere a vitezei la 72 de kilometri pe ora.
Cercetatorii au sugerat atunci ca folosirea de informatie contextuala este o modalitate de a depasi aceasta problema, de parca un semn de circulatie de reducere a vitezei la 104 kilometri pe ora intr-o suburbie, sau unul de stop pe o autostrada nu ar avea logica.