Ressemblance troublante

07 novembre 2017 13:29; Act: 08.11.2017 14:00 Print

Google a confondu une tortue avec une arme

Des chercheurs du MIT ont réussi à piéger un système d'intelligence artificielle censé reconnaître les images. Plusieurs photos ont posé problème.

  • par e-mail
Sur ce sujet

Les technologies d'intelligence artificielle ont beau améliorer leurs capacités de jour en jour, elles montrent encore bien des limites. Des chercheurs du LabSix du Massachusetts Institute of Technology (MIT) l'ont prouvé. Ils ont réussi à berner Inception-v3, système de vision artificielle du géant Google, en manipulant l'apparence d'objets imprimés en 3D.

Ainsi, une tortue a été identifiée comme étant un fusil, quelle que soit la face de l'objet présentée à l'IA. De même une balle de baseball a été prise pour une tasse à café, ou encore un chat pour un bol de guacamole. C'est ce que les chercheurs appellent des exemples d'«images contradictoires». Celles-ci ont pu être créées en accédant à l'algorithme du système de reconnaissance d'images de Google et en exploitant ses failles.

L'étude du MIT soulève des questions concernant l'exploitation de cette technique pour tromper des technologies de vision artificielle, comme les systèmes de surveillance des aéroports ou les capteurs des voitures autonomes, par exemple. «Notre travail démontre que les images contradictoires sont un problème beaucoup plus important dans les systèmes du monde réel qu'on ne le pensait auparavant», notent les chercheurs.

(L'essentiel/man)

Vous venez de publier un commentaire sur notre site et nous vous en remercions. Les messages sont vérifiés avant publication. Afin de s’assurer de la publication de votre message, vous devez cependant respecter certains points.

«Mon commentaire n’a pas été publié, pourquoi?»

Notre équipe doit traiter plusieurs milliers de commentaires chaque jour. Il peut y avoir un certain délai entre le moment où vous l’envoyez et le moment où notre équipe le valide. Si votre message n’a pas été publié après plus de 72h d’attente, il peut avoir été jugé inapproprié. L’essentiel se réserve le droit de ne pas publier un message sans préavis ni justification. A l’inverse, vous pouvez nous contacter pour supprimer un message que vous avez envoyé.

«Comment s’assurer de la validation de mon message?»

Votre message doit respecter la législation en vigueur et ne pas contenir d’incitation à la haine ou de discrimination, d’insultes, de messages racistes ou haineux, homophobes ou stigmatisants. Vous devez aussi respecter le droit d’auteur et le copyright. Les commentaires doivent être rédigés en français, luxembourgeois, allemand ou anglais, et d’une façon compréhensible par tous. Les messages avec des abus de ponctuation, majuscules ou langages SMS sont interdits. Les messages hors-sujet avec l’article seront également supprimés.

Je ne suis pas d’accord avec votre modération, que dois-je faire?

Dans votre commentaire, toute référence à une décision de modération ou question à l’équipe sera supprimée. De plus, les commentateurs doivent respecter les autres internautes tout comme les journalistes de la rédaction. Tout message agressif ou attaque personnelle envers un membre de la communauté sera donc supprimé. Si malgré tout, vous estimez que votre commentaire a été injustement supprimé, vous pouvez nous contacter sur Facebook ou par mail sur feedback@lessentiel.lu Enfin, si vous estimez qu’un message publié est contraire à cette charte, utilisez le bouton d’alerte associé au message litigieux.

«Ai-je le droit de faire de la promotion pour mes activités ou mes croyances?»

Les liens commerciaux et messages publicitaires seront supprimés des commentaires. L’équipe de modération ne tolérera aucun message de prosélytisme, que ce soit pour un parti politique, une religion ou une croyance. Enfin, ne communiquez pas d’informations personnelles dans vos pseudos ou messages (numéro de téléphone, nom de famille, email etc).

L'espace commentaires a été désactivé
L'espace commentaires des articles de plus de 48 heures a été désactivé en raison du très grand nombre de commentaires que nous devons valider sur des sujets plus récents. Merci de votre compréhension.

Les commentaires les plus populaires

  • Peanuts le 07.11.2017 21:02 via via Mobile Report dénoncer ce commentaire

    Dans la famille des chercheurs qui cherchent je demande le MIT

Les derniers commentaires

  • Peanuts le 07.11.2017 21:02 via via Mobile Report dénoncer ce commentaire

    Dans la famille des chercheurs qui cherchent je demande le MIT

    • Ancien du MIT le 08.11.2017 00:42 Report dénoncer ce commentaire

      Les "exemples contradictoires" sont des apports aux modèles d'apprentissage machine qu'on a intentionnellement conçu pour produire une erreur; ils sont comme des illusions optiques pour les machines et des "faux positives" qui améliorent les algorithmes.