L’intelligence artificielle exige de comprendre ses limites et de définir des garde-fous éthiques

Dpress

Le Procureur général du Roi près la Cour de Cassation, Président du Ministère public, Hicham Balaoui, a souligné lundi à Fès, que l’approche de l’intelligence artificielle ne devrait pas se limiter à l’exploitation de ses capacités techniques, mais doit également reposer sur la compréhension de ses limites et la définition de garde-fous éthiques.

Intervenant lors d’une session de formation destinée aux responsables judiciaires des parquets, autour du thème « Intelligence artificielle et droits de l’Homme », M. Balaoui a indiqué que l’importance de cette thématique ne cesse de croître, en particulier dans les domaines de la justice pénale, du droit à la défense, de la protection de la vie privée et du droit à un procès équitable, dans un contexte marqué par les profondes transformations technologiques que connaît le monde et les défis éthiques, juridiques et liés aux droits de l’Homme qu’elles soulèvent, lesquels nécessitent un accompagnement et un encadrement appropriés.

Il a relevé que l’impact des technologies de l’intelligence artificielle ne se limite plus aux secteurs scientifique, éducatif et économique, mais s’étend désormais aux différents aspects de la vie, y compris au domaine de la justice, à travers des applications permettant notamment de détecter les activités criminelles, de déceler les fraudes et de faciliter les enquêtes.

Ces possibilités soulèvent toutefois des défis pour l’institution judiciaire et le Ministère public, au regard des missions qui leur sont confiées, a-t-il fait observer, soulignant la nécessité de maîtriser pleinement cette thématique, d’autant que l’intelligence artificielle, malgré ses nombreux avantages, comporte également des risques susceptibles d’affecter le respect des droits et des libertés, ainsi que les droits de l’Homme de manière générale.

M. Balaoui a précisé que cette session de formation s’inscrit dans le cadre de la mise en œuvre du plan stratégique du Ministère public et de l’exécution de son programme de renforcement des capacités en matière de formation, notamment à travers le développement des compétences des magistrats du parquet dans le domaine des droits de l’Homme.

Il a souligné que la thématique abordée revêt une importance majeure, compte tenu de son impact sur les différents aspects de la vie. Si l’intelligence artificielle offre de nouvelles perspectives pour améliorer le fonctionnement de la justice pénale, elle impose, en contrepartie, des obligations supplémentaires en matière de respect des droits et des libertés, a-t-il expliqué.

Il a également indiqué que cette session s’inscrit dans le cadre d’un cycle de formations qui seront organisées dans différentes régions du Royaume afin de mettre en lumière cette question, eu égard au rôle fondamental du Ministère public dans la protection des droits et des libertés.

De son côté, Samir Marmouri, du Centre de Genève pour la gouvernance du secteur de la sécurité, qui contribue à l’organisation de cette session aux côtés de la Présidence du Ministère public, a indiqué que cette rencontre s’inscrit dans le cadre de l’accompagnement des efforts déployés par le Maroc en matière de renforcement de la gouvernance dans le domaine de la justice et de développement des compétences des magistrats.

Il a ajouté que l’intelligence artificielle figure parmi les sujets qui requièrent une attention particulière à l’heure actuelle, précisant que c’est dans cette perspective que ce programme a été mis en place afin de former les magistrats du parquet et les responsables judiciaires aux modalités d’utilisation de l’intelligence artificielle, conformément aux exigences en matière de droits de l’Homme.

L’organisation de cette session de formation s’inscrit dans le cadre du programme de renforcement des capacités des magistrats en matière de droits de l’Homme, lancé par la Présidence du Ministère public en 2020, ainsi que dans celui de la mise en œuvre de son plan stratégique 2026-2028, notamment son deuxième axe stratégique relatif au renforcement de la protection des droits et des libertés.

Cette session porte sur l’utilisation de l’intelligence artificielle dans la lutte contre la criminalité et la protection des droits de l’Homme. En effet, le développement rapide des technologies fondées sur l’intelligence artificielle ouvre de nouvelles perspectives pour renforcer les efforts de prévention, de détection et d’investigation des infractions.

Toutefois, le recours croissant à ces technologies par les institutions chargées de l’application de la loi et de la justice pénale soulève, en parallèle, la nécessité de garantir que leur utilisation soit conforme aux principes de l’État de droit et aux normes internationales relatives aux droits de l’Homme.

Ces principes et normes s’appuient notamment sur la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle (2021), les principes de l’Organisation de coopération et de développement économiques (OCDE) sur l’intelligence artificielle (2019), la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’Homme, la démocratie et l’État de droit (2024), ainsi que sur les instruments internationaux relatifs aux droits de l’Homme.

Cette session de formation vise, en particulier, à présenter les concepts fondamentaux liés à l’intelligence artificielle et ses applications dans le domaine de la justice pénale, à exposer les principaux cadres de référence et normes internationales pertinents, à approfondir la compréhension des conséquences de l’utilisation de l’intelligence artificielle sur les droits de l’Homme et les garanties procédurales, ainsi qu’à examiner le rôle des autorités judiciaires dans la supervision et le contrôle de l’utilisation de ces technologies.

Elle vise également à encourager l’échange d’expériences et les discussions autour des défis pratiques liés au traitement des infractions associées aux nouvelles technologies.

La première journée sera consacrée à la présentation des concepts fondamentaux et des cadres normatifs internationaux, ainsi qu’à l’examen des enjeux liés aux droits de l’Homme et aux garanties procédurales.

La deuxième journée adoptera une approche pratique à travers l’organisation d’ateliers thématiques portant sur les différents défis liés à l’utilisation de l’intelligence artificielle dans le domaine de la lutte contre la criminalité.

Une attention particulière sera également accordée aux questions relatives à la protection des données à caractère personnel, au respect de la vie privée, à la préservation de l’intégrité physique des personnes, aux garanties procédurales et aux mécanismes de contrôle humain, ainsi qu’aux dispositifs de responsabilité et de reddition des comptes.