[A4Q] Mon IA sera-t-elle éthique ou pathétique ?

L’IA fait de plus en plus partie de notre vie, que nous le voulions ou non, que nous le sachions ou non.
Les systèmes basés sur l’IA scrutent déjà nos données pour nous profiler et nous offrir les meilleurs produits et services… en théorie du moins.
En se nourrissant du Big Data, les solutions commerciales d’IA deviennent une aide pour déterminer les risques que nous prenons ou ceux que nous constituons pour autrui ; elles influencent le coût de nos primes d’assurance, impactent des décisions judiciaires, influent sur notre conduite, nos examens médicaux, nos résultats scolaires ou d’examen, nos entretiens d’embauche, déterminent le rendement des employés et bien plus encore…
Oui, mais si elles venaient à échouer ? Quel est notre rôle en tant qu’IT-ers et QA-ers d’un point de vue éthique ?