Néo, le robot domestique de l'entreprise américano-norvégienne 1X Technologies, a récemment été mis en marché pour le grand public. Promettant de se charger des tâches ménagères afin de permettre à ses propriétaires de se concentrer sur leurs priorités, Néo peut sembler comme un compagnon idéal.
Mais est-ce qu’une telle innovation comporte des risques?
Notons que pour bien fonctionner, Néo doit apprendre à effectuer chaque tâche qu’on lui soumet. Il est donc primordial pour son fonctionnement de collecter les données de la routine quotidienne de ses propriétaires. Pour assimiler ses corvées, le robot doit d'abord être contrôlé à distance par des employés de 1X Technologies à l’aide d’un casque de réalité virtuelle afin d'apprendre au robot à accomplir ses tâches via la caméra intégrée. Néo deviendra autonome après avoir assimilé assez d'informations sur ses corvées.
Donc, le robot doit observer et stocker des données de son propriétaire et doit être contrôlé par quelqu’un d’autre afin d’être autonome, laissant plusieurs questions en suspens, notamment sur la protection des données personnelles.
Des étudiants à la maîtrise à HEC Montréal ont partagé avec Noovo Info certains enjeux quant aux aspects éthiques que le robot ne respecte pas, citant les dix principes de l’intelligence artificielle (IA) responsable publiée par le ministère de la Cybersécurité et du Numérique du Québec.
Dans le cadre de leur cours Éthique des organisations à l’ère du numérique, Scarlett Myriam Jebara, Fatima Ezzahra Rahni, Léa Landry, Lola Quehen et Ibrahima Sory Wann ont souligné qu’au niveau de la protection des données personnelles, les mécanismes de collecte, de stockage et de gestion des données recueillies par le robot ne sont pas clairement expliqués par l’entreprise de Palo Alto. Ce manque de transparence «soulève des enjeux de consentement, de confidentialité et de sécurité dans un contexte domestique», soulignent les étudiantes.
Dans une entrevue avec le Wall Street Journal, le fondateur et PDG de 1X Technologies, Bernt Børnich, soutient qu’il est nécessaire pour le bon fonctionnement du robot de partager le plus de données possible. Il assure toutefois que l’échelle du partage des données restera toujours la décision du propriétaire.
«Nous voulons nous assurer que nous respectons autant que possible votre vie privée et que cela se fasse toujours selon vos conditions. Vous gardez toujours le contrôle», a souligné M. Børnich à la journaliste Joanna Stern, qui a été invitée à tester le robot.
Les étudiantes à la maîtrise ont également noté que le fonctionnement interne des systèmes d’IA du robot n’est pas détaillé par l’entreprise. De même que les critères qui guident les décisions ou apprentissages de Noé, ce qui «limite la compréhension et la confiance des utilisateurs».
«Aucune information n’est fournie sur la manière dont les utilisateurs peuvent comprendre, suivre ou contester les actions du robot ni sur les modalités précises du contrôle à distance», ajoutent les étudiantes.
Le fondateur de 1X Technologies assure que les opérateurs qui se connectent au robot pour l’aider à apprendre et effectuer ses tâches ne peuvent pas prendre contrôle du robot sans l’accord de l’utilisateur et que ce dernier doit planifier un rendez-vous avec l’entreprise pour qu’un employé se connecte à Néo.
Il soutient également que les propriétaires peuvent avoir le visage brouillé par la caméra du robot afin de ne pas être reconnaissable par les employés de 1X Technologies. Ils peuvent aussi délimiter des espaces interdits d’accès lorsque Néo est contrôlé par un employé de la compagnie.
Néanmoins, les étudiantes à HEC recommandent à l’entreprise de publier davantage d’informations techniques et éthiques sur leur technologie.
«Notre démarche est purement académique et vise à encourager une réflexion constructive sur les enjeux éthiques liés à l’introduction de robots autonomes dans la vie quotidienne», concluent-elles.
