A través de nuestro trabajo de apoyo en The Engine Room, hemos recibido cada vez más preguntas sobre la IA de las comunidades y organizaciones, incluidos sus riesgos, oportunidades y cómo utilizarla de manera responsable. Como parte de nuestro apoyo continuo a organizaciones de la sociedad civil que utilizan la Herramienta de Evaluación de Ciberseguridad (CAT), hemos organizado una llamada comunitaria para explorar enfoques prácticos y políticos sobre la seguridad en el uso de IA desde perspectivas de la Mayoría Global.
En esta llamada contamos con la participación de tres ponentes invitadas:
- Lupa, socióloga, administradora de sistemas y consultora de seguridad digital de TEDIC
- Ashi, de Front Line Defenders
- Chenai Chair, directora de Masakhane African Languages Hub
Las ponentes reflexionaron sobre cómo se está abordando la IA en América Latina y África, antes de pasar a discusiones prácticas sobre seguridad, privacidad, gobernanza, justicia lingüística y alternativas de código abierto.
IA de idiomas y enfoques centrados en la comunidad en África
Masakhane African Languages Hub busca desarrollar herramientas que apoyen a mil millones de africanos en 50 lenguas africanas ampliamente habladas. Chenai, su directora, destacó el gran talento y entusiasmo en torno a la IA en todo el continente africano, aunque persiste un acceso desigual a financiamiento y recursos. Muchas herramientas digitales no logran reconocer acentos, tonos e idiomas africanos porque los desarrolladores diseñan sistemas principalmente en torno a lenguas coloniales como el inglés, el francés y el portugués. Chenai enfatizó la importancia de los enfoques participativos: las comunidades deben ayudar a crear y evaluar conjuntos de datos, en lugar de que sus datos sean extraídos mediante prácticas de scraping (raspado web) a gran escala. Los gobiernos, investigadores y comunidades – y no solo las empresas privadas – deberían dar forma a sistemas de IA escalables y relevantes a nivel local.
IA, seguridad y defensores de derechos humanos en América Latina
Lupa y Ashi, nuestras dos invitadas de América Latina, reflexionaron sobre los impactos ambientales y sociales de la IA y subrayaron la importancia de considerar estos aspectos antes de adoptar nuevas herramientas. Una tendencia que han observado en la región es que las personas defensoras de derechos humanos tienden a acercarse a la IA con cautela, en lugar de apresurarse a adoptarla. Aunque muchas personas sienten curiosidad por la IA, existe presión para utilizarla, especialmente en contextos con limitaciones de tiempo y recursos.
Los actores maliciosos están utilizando cada vez más la IA para fortalecer campañas de phishing y otras formas de acoso digital dirigidas a activistas y comunidades marginadas. Desde una perspectiva feminista y centrada en la autonomía, las ponentes enfatizaron la importancia de elegir intencionalmente cómo utilizamos las herramientas de IA, en lugar de permitir que ellas nos moldeen. También alentaron a apropiarse de las herramientas para ganar mayor autonomía, comprendiendo por qué se utiliza una herramienta específica, para qué, y cómo esta herramienta proporcionará el resultado deseado.
Consejos y recomendaciones de seguridad
Nuestras ponentes compartieron una serie de consejos prácticos y realistas de cómo interactuar con la IA de maneras que prioricen la seguridad, la autonomía y el contexto. Estas recomendaciones pueden orientarte mientras navegas en entornos digitales cada vez más complejos.
Protege los datos sensibles
- Practica la minimización de datos antes de compartir información con herramientas de IA. Comparte únicamente lo estrictamente necesario para cumplir la tarea específica.
- Evita subir datos confidenciales de organizaciones o comunidades a herramientas de IA.
- Revisa y ajusta la configuración de privacidad y seguridad de las herramientas de IA, incluida la desactivación del entrenamiento con datos cuando sea posible.
- Consulta las políticas de retención de datos para entender cuánto tiempo las herramientas almacenan tu información.
- Considera utilizar herramientas populares sin crear cuentas para reducir la exposición de datos.
Verifica herramientas y resultados
- Verifica la información generada por IA antes de confiar en ella. La IA puede “alucinar” o difundir desinformación.
- Evalúa si las herramientas realmente satisfacen tus necesidades o simplemente recopilan datos.
- Considera si la IA es realmente necesaria para la tarea.
Prioriza la privacidad y la autonomía
- Utiliza herramientas centradas en la privacidad, como Duck.ai o Lumo, cuando sea posible.
- Ten en cuenta el rastreo mediante cookies y datos de ubicación. Utiliza herramientas como VPN y Tor para minimizar el seguimiento. También puedes borrar las cookies regularmente para mantener la privacidad.
- Explora alternativas de código abierto o autoalojadas para tener mayor control.
- Sé consciente de la dependencia de infraestructuras controladas por grandes empresas tecnológicas.
Utiliza herramientas de IA estratégicamente
- La IA debe apoyar el trabajo humano, no reemplazarlo.
- Define un objetivo claro y significativo antes de adoptar cualquier herramienta.
- Evita la dependencia excesiva. Muchos problemas aún pueden resolverse eficazmente sin IA.
- Equilibra la automatización con el criterio humano y la experiencia.
- Evalúa regularmente si una herramienta es realmente útil o simplemente añade complejidad.
Construye prácticas de IA centradas en la comunidad
- Incluye retroalimentación comunitaria, recomendaciones, autonomía y consentimiento en el diseño y evaluación de conjuntos de datos de IA.
- Considera la inclusión relacionada con discapacidad, género, idioma y edad.
- Aborda las prácticas extractivas de datos y las desigualdades laborales en el desarrollo de IA.
Localiza y contextualiza los sistemas de IA
- Utiliza métricas y métodos de evaluación relevantes para el contexto local. Muchos sistemas de IA se construyen con supuestos del Norte Global que pueden no traducirse eficazmente a otros contextos.
- Desarrolla conjuntos de datos y modelos que reflejen idiomas y realidades locales.
- Cuestiona si los sistemas existentes son apropiados para tu contexto.
Preguntas para hacerse antes de adoptar una herramienta de IA
- ¿La herramienta está alineada con tus valores y contexto político?
- ¿Cuál es la reputación de la herramienta y bajo qué acuerdos se ha asociado recientemente la empresa?
- ¿Ha habido cambios recientes en sus políticas?
- ¿Dónde están ubicados sus servidores?
- ¿Está basada en modelos lingüísticos pequeños o grandes modelos de lenguaje?
- ¿La IA es realmente necesaria para este caso, o se puede hacer con otro tipo de herramienta, o simplemente hablando con otras personas?
- ¿Es transparente respecto al uso de datos y privacidad? ¿Cuánto tiempo almacena y retiene nuestros datos?
- ¿La herramienta utiliza infraestructura de una gran empresa tecnológica?
Herramientas de IA locales y de código abierto recomendadas durante la llamada
Recursos adicionales compartidos por las ponentes, participantes y miembras del equipo TER
- EDIA, de Fundación Via Libre
- Tor e IA [español]
- Cómo usar IA de manera más segura, por Digital Defenders Partnership [español]
- Artículo de Masakhane sobre el valor de la inclusión de lenguas africanas en la IA
- Seguridad, privacidad y chatbots, por TEDIC [español]
- Prompting seguro para el uso de IA, por TEDIC [español]
Esperamos continuar estas conversaciones a través de futuras llamadas comunitarias y espacios compartidos de aprendizaje para profesionales de seguridad digital y organizaciones que buscan apoyo. Si te perdiste la llamada y deseas continuar la conversación, ponte en contacto con nuestro equipo de soporte en cybercat@theengineroom.org.
También puedes reservar un CATio, un espacio dedicado a apoyar a organizaciones en riesgo de todo el mundo mediante la Herramienta de Evaluación de Ciberseguridad (CAT).