LE DROIT DE RÉVISION DES DÉCISIONS DE L'IA DEVRAIT RESTER

LE DROIT DE RÉVISION DES DÉCISIONS DE L’IA DEVRAIT RESTER

Le droit à un examen humain des décisions prises par l’intelligence artificielle (IA) devrait être maintenu dans la loi alors que l’industrie en est à ses « débuts », selon BCS, le Chartered Institute for IT.

Le droit à l’examen humain est l’une des questions soulevées lors d’une consultation gouvernementale sur les modifications potentielles du règlement général britannique sur la protection des données (RGPD).

La consultation, qui est dirigée par le Département du numérique, de la culture, des médias et des sports, comprend des propositions de suppression ou de réforme de l’article 22 du RGPD, qui prévoit le droit de réviser les décisions entièrement automatisées.

La consultation a déclaré que le maintien de l’examen humain des décisions de l’IA pourrait « ne pas être pratique ou proportionné » à l’avenir, et qu’il était important d’évaluer quand cette sauvegarde est nécessaire.

Cependant, la consultation reconnaît qu’il pourrait y avoir un « besoin légitime pour certaines décisions dérivées de l’IA » à haut risque « d’exiger un examen humain ».

Le Dr Sam De Silva, président du groupe de spécialistes en droit de BCS et associé du cabinet d’avocats CMS, a déclaré que la clarté était requise sur les droits des personnes dans les situations où la prise de décision est entièrement automatisée.

« Nous souhaiterions également savoir si l’article 22 ( 1 ) doit être interprété comme une interdiction générale de tout traitement automatisé de données répondant aux critères ou un droit plus limité de contester une décision résultant d’un tel traitement », a déclaré De Silva.

« En tant qu’organisme professionnel de l’informatique, BCS n’est pas convaincu que le maintien de l’article 22 dans sa forme actuelle ou sa suppression permette d’atteindre une telle clarté. »

BCS a déclaré que comme l’IA n’implique pas toujours des données personnelles pour prendre des décisions, une réglementation plus large de l’industrie de l’IA devrait être envisagée.

« Si nous pensons que la protection est suffisamment importante, elle ne devrait pas entrer dans le RGPD », a déclaré De Silva.

« Cela soulève la question : devons-nous réglementer l’IA en général, et non par la « porte dérobée » via le RGPD ?

« Il est bienvenu que le gouvernement consulte attentivement avant d’apporter des modifications au droit des personnes de faire appel des décisions les concernant par des algorithmes et des systèmes automatisés – mais la technologie en est encore à ses balbutiements. »

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *