Retour sur l’événement : Utiliser l’IA en toute sécurité : stratégies pratiques pour les OSC et les organisations à but non lucratif dans une perspective du Monde majoritaire

Dans le cadre de notre travail d’accompagnement au sein de The Engine Room, nous recevons de plus en plus de questions de la part des communautés concernant l’IA, notamment sur ses risques, ses opportunités et les manières de l’utiliser de façon responsable. Dans le prolongement de notre soutien aux organisations de la société civile utilisant le Cybersecurity Assessment Tool (CAT), nous avons organisé un appel communautaire consacré aux approches pratiques et politiques de la sécurité de l’IA à partir des perspectives du Monde majoritaire.

Nous avons eu le plaisir d’accueillir trois intervenants :

• Lupa, sociologue, administrateur système et consultant en sécurité numérique chez TEDIC
• Ashi de Front Line Defenders
• Chenai Chair, directrice du Masakhane African Languages Hub

Les intervenants ont partagé leurs réflexions sur la manière dont l’IA est abordée en Amérique latine et en Afrique, avant d’engager des discussions pratiques autour de la sécurité, de la confidentialité, de la gouvernance, de la justice linguistique et des alternatives open source.

IA linguistique et approches centrées sur les communautés en Afrique

Le Masakhane African Languages Hub vise à développer des outils capables de soutenir un milliard d’Africains à travers plus de 50 langues africaines largement parlées. Chenai, sa directrice, a souligné l’existence d’un important vivier de talents et d’un fort enthousiasme autour de l’IA sur le continent africain, malgré un accès inégal aux financements et aux ressources. De nombreux outils numériques ne reconnaissent pas les accents, les tonalités et les langues africaines, car les développeurs conçoivent majoritairement leurs systèmes autour des langues coloniales telles que l’anglais, le français et le portugais. Chenai a insisté sur l’importance des approches participatives : les communautés devraient contribuer à la création et à l’évaluation des ensembles de données, plutôt que de voir leurs données extraites à travers des pratiques de collecte massive. Les gouvernements, les spécialistes de la recherche et les communautés, et pas uniquement les entreprises privées, devraient participer à la conception de systèmes d’IA évolutifs et adaptés aux contextes locaux.

IA, sécurité et défenseurs des droits humains en Amérique latine

Lupa et Ashi, nos deux intervenants d’Amérique latine, ont évoqué les impacts environnementaux et sociaux de l’IA, tout en soulignant l’importance de prendre ces enjeux en considération avant d’adopter de nouveaux outils. Une tendance observée dans la région est que les défenseurs des droits humains abordent généralement l’IA avec prudence plutôt que de se précipiter dans son adoption. Bien que de nombreuses personnes soient curieuses à l’égard de l’IA, une pression existe pour utiliser ces outils, notamment dans des contextes marqués par un manque de temps et de ressources.

Les acteurs malveillants utilisent de plus en plus l’IA pour renforcer les campagnes d’hameçonnage et d’autres formes de harcèlement numérique ciblant les militants et les communautés marginalisées. Dans une perspective féministe et axée sur l’autonomie, les intervenants ont insisté sur l’importance de choisir intentionnellement la manière dont nous utilisons les outils d’IA, plutôt que de laisser ces outils nous façonner. Ils ont encouragé les participants à se réapproprier les outils afin de renforcer leur autonomie, en comprenant pourquoi un outil spécifique est utilisé, dans quel objectif, et comment il permettra d’obtenir les résultats recherchés.

Conseils et recommandations en matière de sécurité

Nos intervenants ont partagé une série de conseils pratiques et ancrés dans les réalités du terrain pour interagir avec l’IA d’une manière qui privilégie la sécurité, l’autonomie et le contexte. Ces recommandations peuvent vous aider à évoluer dans des environnements numériques de plus en plus complexes.

Protéger les données sensibles

• Appliquez le principe de minimisation des données avant de partager des informations avec des outils d’IA. Ne partagez que les informations strictement nécessaires à la tâche concernée.
• Évitez de télécharger des données confidentielles liées à votre organisation ou à vos communautés dans des outils d’IA.
• Vérifiez et ajustez les paramètres de confidentialité et de sécurité des outils d’IA, notamment en désactivant, lorsque cela est possible, l’utilisation des données pour l’entraînement des modèles.
• Consultez les politiques de conservation des données afin de comprendre combien de temps les outils d’IA stockent vos informations.
• Envisagez d’utiliser des outils grand public sans créer de compte afin de réduire l’exposition de vos données.

Vérifier les outils et les résultats

• Vérifiez les informations générées par l’IA avant de vous y fier. L’IA peut halluciner ou diffuser de fausses informations.
• Évaluez si les outils répondent réellement à vos besoins ou s’ils servent principalement à collecter des données.
• Demandez-vous si l’IA est réellement nécessaire pour la tâche concernée.

Donner la priorité à la confidentialité et à l’autonomie

• Utilisez, lorsque cela est possible, des outils axés sur la protection de la vie privée tels que Duck.ai ou Lumo.
• Soyez attentifs au suivi effectué à travers les témoins de connexion (cookies) et les données de localisation. Utilisez des outils comme les VPN et Tor pour limiter le pistage. Vous pouvez également supprimer régulièrement les témoins de connexion afin de préserver votre confidentialité.
• Explorez des alternatives open source ou auto-hébergées afin de bénéficier d’un meilleur contrôle.
• Soyez conscients de la dépendance envers des infrastructures contrôlées par les grandes entreprises technologiques.

Utiliser les outils d’IA de manière stratégique

• L’IA doit soutenir le travail humain, et non le remplacer.
• Définissez un cas d’usage clair et pertinent avant d’adopter un outil.
• Évitez une dépendance excessive. De nombreux problèmes peuvent encore être résolus efficacement sans IA.
• Trouvez un équilibre entre automatisation, jugement humain et expertise.
• Évaluez régulièrement si un outil est réellement utile ou s’il ne fait qu’ajouter de la complexité.

Construire des pratiques d’IA centrées sur les communautés

• Intégrez les retours, les recommandations, l’autonomie et le consentement des communautés dans la conception et l’évaluation des ensembles de données utilisés par l’IA.
• Tenez compte des questions liées au handicap, au genre, à la langue et à l’inclusion des différentes tranches d’âge.
• Traitez les pratiques extractives de collecte de données ainsi que les inégalités de travail dans le développement de l’IA.

Localiser et contextualiser les systèmes d’IA

• Utilisez des critères de référence et des méthodes d’évaluation adaptés aux réalités locales. De nombreux systèmes d’IA sont conçus à partir d’hypothèses issues du Nord global, qui peuvent ne pas être pertinentes dans d’autres contextes.
• Développez des ensembles de données et des modèles reflétant les langues et les réalités locales.
• Interrogez la pertinence des systèmes existants pour votre contexte.

Questions à se poser avant d’adopter un outil d’IA

• Cet outil est-il aligné avec vos valeurs et votre contexte politique ?
• Quelle est la réputation de cet outil, et avec quels partenaires ou types d’accords l’entreprise a-t-elle récemment collaboré ?
• Y a-t-il eu des changements récents dans ses politiques ?
• Où se trouvent ses serveurs ?
• Repose-t-il sur des petits modèles de langage ou de grands modèles de langage ?
• L’IA est-elle réellement nécessaire pour ce cas d’usage, ou cette tâche peut-elle être réalisée avec un autre type d’outil, voire simplement par des échanges humains ?
• L’outil est-il transparent concernant l’utilisation des données et la confidentialité ? Combien de temps conserve-t-il nos données ?
• L’outil utilise-t-il l’infrastructure d’une grande entreprise technologique ?

Nous nous réjouissons de poursuivre ces échanges à travers de futurs appels communautaires et des espaces d’apprentissage partagés destinés aux praticiens de la sécurité numérique et aux organisations recherchant un accompagnement. Si vous avez manqué cet appel et souhaitez poursuivre la conversation, contactez notre équipe de soutien à l’adresse suivante : cybercat@theengineroom.org.

Vous pouvez également réserver une session CATio, un espace dédié au soutien des organisations à risque à l’échelle mondiale utilisant le Cybersecurity Assessment Tool (CAT).