Le début fut pendant (très) longtemps de l’ordre de la science fiction. La question est simple:
Quel niveau d’autonomie faut-il octroyer à l’IA afin de profiter de ses avantages sans trop souffrir de ses inconvénients ?
Cette question qui peut paraître très philosophique ou réservée à des passionnés vient frapper à notre porte de façon fracassante! En effet, les progrès de l’IA, réguliers depuis de nombreuses années, ont permis d’atteindre un cap ces derniers temps grâce à la puissance que nous avons réussi à lui inculquer.
Ces progrès ont permis d’exploser le nombre d’applications concrètes et performantes de l’IA. Les limites techniques se retrouvent à être toujours plus réduites rendant ces dernières « obsolètes » pour nous protéger d’une trop grande importance ou puissance de l’IA qui peut dès lors devenir hors de contrôle. Il est temps, plus que jamais, de poser de nouvelles limites, des limites posées par des valeurs partagées.
L’idée n’est pas de parler de la possibilité de se retrouver avec une surveillance généralisée comme en Chine à l’aide de l’IA qui analyse les comportements et fait de la reconnaissance faciale, quoique l’on s’en rapproche doucement avec les JO 2024. Non, ici je souhaite parler de logiciels de tous les jours, plus anodins et donc auxquels on fait moins attention et qui pourtant guident nos vies.
Pour vous en convaincre je vais prendre un exemple concret qui m’est récemment arrivé.
Exemple d’application trop poussée de l’IA
A l’heure où tout passe par le numérique nous centralisons souvent une quantité de données confidentielles faramineuses sur sa boite mail. Personnellement, mon mail contient mes informations ou est la clé sur:
- Des moyens de paiement: paypal
- Ma santé: ma mutuelle avec laquelle tout se passe en ligne
- Mes loisirs: mes comptes de jeu
- Mes informations: avec mes abonnements numériques
- Mes factures: devis pour travaux, achats en ligne
- Mes vacances: avec mes billets électroniques
- Mes échanges avec des amis et ma famille
- Des échanges « professionnels »: avec notamment le comité de programme de la JFTL et d’autres sujets liés au test
- Mon autoentreprise
- Mes réseaux sociaux: LinkedIn, Youtube personnel
- La taverne du testeur: compte youtube, factures, compte en banque
- Les échanges liés à une procédure juridique commencée il y a presque 10 ans
- Mes impôts!
- Tous mes contacts avec l’administration (urssaf, paje…)…
Bref mon mail est plus important que mon portable il est devenu un élément « critique », « essentiel » de ma vie, un élément de mon identité qui me sert de back-up dans la plupart des situations.
Ma vie était organisée avec cette certitude, cet axiome: j’ai accès à ma boite mail et seul moi y ai accès.
Malheureusement cette certitude a volé en éclat le 7 avril dernier! Mon mail compte, se retrouve bloqué, impossible à débloqué par les moyens proposés par le support en ligne. J’ai alors tenté de joindre le support mais le numéro que l’on trouve en ligne nous amène vers un chatbot qui finit abligatoirement sur une message: allez sur le support en ligne cela sera plus efficace…
On est là sur une première utilisation de l’IA qui va trop loin: si on prend la peine de téléphoner ce n’est pas pour n’avoir que la solution d’un support en ligne et ne pas pouvoir échanger avec un humain!
En continuant mes recherches je trouve un autre numéro. Je téléphone et après plusieurs essai trouve un moyen de rentrer en contact avec un humain… Ce n’est pas le service technique mais la personne me redirige vers ce dernier. Je suis alors en contact avec un technicien qui me donne ces informations:
- Mon compte a été bloqué car l’IA a détecté de éléments suspects
- Impossible de me dire ce qui a été détecté car c’est les robots qui le font (il est donc impossible de montrer mon innocence!)
- Le support ne s’occupe pas de la messagerie, c’est les robots, on ne peut pas vous aider
- Je dois attendre un délai inconnu (voir illimité) pour pouvoir débloquer mon compte…
- Je ne peux pas créer de ticket pour mon problème car pour cela il faut être connecté au compte bloqué
- Le mieux serait de se recréer un compte
On a donc ici une IA toute puissante et incontrôlée qui peut, sur un bug ou toute suspicion, décider de me couper d’une partie essentielle de ma vie… ma boîte mail!
L’humain comme seul échappatoire!
Comme souvent dans ces situations je communique sur ma situation. Cela est évidement comme une bouteille d’eau jetée à la mer mais cela peut porter ces fruits car la communication est lue par des humains qui ont peut être vécu une situation similaire et s’en sont sorti ou atterrir devant quelqu’un qui pourrait m’aider… et m’aide à faire passer ma frustration, à décompresser.
Une fois encore, ma visibilité sur les réseaux sociaux a été salvatrice! Ma situation a attiré l’attention de nombreuses personnes qui m’ont donné des conseils et des pistes pour m’en sortir et je les en remercie énormément =). Parmi l’ensemble de ces messages, il y a eu celui de Pierre Giraud qui a été le contact humain manquant d’où a émergé la solution à mon problème.
Pierre a recueilli mon témoignage et quelques information afin de créer un ticket en interne, le lier à un mail externe et l’escalader. J’ai alors rapidement été contacté avec un questionnaire à remplir pour débloquer mon compte. Après quelques jours la procédure standard de déblocage de compte était de nouveau valide et j’ai de nouveau pu accéder à mes mails.
Conclusion
Je ne vais vous le cacher cette expérience m’a profondément affectée. La qualité au niveau fiabilité que j’avais envers ma boite mail a totalement disparue à cause de l’IA et de l’absence de contact humain. Au final il y a maintenant un manque de confiance tel que j’ai décidé de changer de boite mail et d’aller vers un acteur payant et plus petit mais français avec plus d’humain et l’assurance d’un respect plus important de ma vie privée car avec des serveurs en Europe.
Au final, il n’y a pas de qualité sans humain et tout comme le 100% automatisation n’est pas souhaitable le tout IA ne l’est pas également. Il va falloir, pour chaque logiciel, savoir jusqu’où l’on va et à partir de quand un humain doit reprendre la main.
Pensez à rejoindre le groupe « Le métier du test » si vous souhaitez échanger sur le test
Merci à tous ceux qui mettent « j’aime », partagent ou commentent mes articles
N’hésitez pas à faire vos propres retours d’expérience en commentaire.
