Publié par aplusglass.com – Mise en ligne le 01/04/2019

Activer les essuie-glaces même s’il ne pleut pas, ou convaincre une voiture autonome de rouler dans la mauvaise voie de circulation relève d’une catégorie de « hacks » ou piratages relativement récente, qualifiée d’attaques « antagonistes » ou « adversaires ».

 

Ces attaques sont des méthodes pour tromper les systèmes d’identification basés sur l’utilisation de réseaux de neurones.

 

Ces systèmes, même s’ils affichent des performances proches de celles de l’être humain, sont toutefois vulnérables aux « échantillons antagonistes » susceptibles de provoquer des erreurs d’identification.

 

Dans la plupart des cas, ces émissions sont également conçues en utilisant des réseaux de neurones. Ainsi, des motifs spécifiques sont incorporés dans l’échantillon, qui ne trompent pas l’œil humain, mais confondent le logiciel de vision artificielle.

 

Les limites du pilote automatique

 

Les chercheurs expliquent qu’ils ont d’abord eu recours à l’ajout de « bruit » sur les balises des voies de circulation (qui leur permettaient toujours d’être parfaitement visibles pour les humains) afin de tromper le pilote automatique et de le rendre incapable de détecter les voies.

 

La conception appropriée du « bruit » a d’abord été calculée dans une simulation virtuelle, puis appliquée dans le monde réel.

 

L’étape suivante consistait à utiliser des autocollants qui, une fois appliqués sur la chaussée, permettaient de confondre le pilote automatique pour qu’il engage le véhicule dans la voie de circulation opposée. Encore une fois, l’essai virtuel était la première étape avant d’utiliser les autocollants sur une autoroute.

 

« Induire en erreur le pilote automatique avec certains correctifs effectués par un attaquant malveillant peut parfois être plus dangereux que de ne pas reconnaître la voie de circulation. Il suffit de peindre trois petites cases peu visibles dans l’image prise de la caméra […] pour que le véhicule puisse considérer la voie de gauche comme une continuation de celle de droite ».

 

Les chercheurs affirment que la fonction de reconnaissance de voie du pilote automatique Tesla présente de bonnes performances dans des situations ordinaires (à l’extérieur non soumis à une lumière intense, à la pluie, à la neige, au sable ou à la poussière), mais qu’elle ne gère pas encore les situations mises en lumière dans leurs recherches.

 

Et ils avertissent : « Ce type d’attaque est facile à mettre en œuvre et le matériel nécessaire est facile à obtenir. »

 

« Tesla utilise une solution basée uniquement sur la vision par ordinateur pour effectuer la reconnaissance de voie [et] nos expériences ont montré que cette approche comportait des risques pour la sécurité. »