Por meio do nosso trabalho de apoio em The Engine Room, temos recebido um número crescente de perguntas das comunidades e organizações parceiras sobre IA, incluindo seus riscos, oportunidades e como utilizá-la de forma responsável. Como parte do nosso apoio contínuo às organizações da sociedade civil que utilizam a Ferramenta de Avaliação de Segurança Cibernética (CAT), organizamos uma chamada comunitária para explorar abordagens práticas e políticas sobre segurança em IA a partir das perspectivas da Maioria Global.
Para essa conversa contamos com a participação de três palestrantes convidados:
- Lupa, socióloga, administradora de sistemas e consultora de segurança digital da TEDIC
- Ashi, do Front Line Defenders
- Chenai Chair, diretora da Masakhane African Languages Hub
Os palestrantes refletiram primeiramente sobre como a IA está sendo utilizada na América Latina e na África, para logo entrarem nas conversas práticas sobre segurança, privacidade, governança, justiça linguística e alternativas de código aberto.
IA de idiomas e abordagens centradas na comunidade em África
A Masakhane African Languages Hub tem como objetivo construir ferramentas que apoiem 1 bilhão de africanos através de 50 idiomas africanos amplamente falados. Chenai, diretora da organização, destacou que existe muito talento e entusiasmo em torno da IA em todo o continente africano, mas o acesso a financiamento e recursos continua desigual. Muitas ferramentas digitais falham em reconhecer sotaques, tons e idiomas africanos porque os desenvolvedores projetam sistemas principalmente com base em línguas coloniais, como inglês, francês e português. Chenai também enfatizou a importância de abordagens participativas: as comunidades devem ajudar a criar e avaliar conjuntos de dados, em vez de terem seus dados extraídos por meio de práticas de raspagem em larga escala. Governos, pesquisadores e comunidades — e não apenas empresas privadas — devem moldar sistemas de IA escaláveis e relevantes localmente.
IA, segurança e defensores dos direitos humanos na América Latina
Lupa e Ashi, nossos dois convidados da América Latina, refletiram sobre os impactos ambientais e sociais da IA e destacaram a importância de considerar esses fatores antes de adotar novas ferramentas. Uma tendência observada por eles na região é a de que defensores dos direitos humanos tendem a abordar a IA com cautela, em vez de correr para adotá-la. Embora muitas pessoas tenham curiosidade sobre IA, existe uma pressão para utilizá-las, especialmente em contextos com restrições de tempo e recursos.
Agentes maliciosos estão usando IA de forma crescente para fortalecer campanhas de phishing e outras formas de assédio digital direcionadas a ativistas e comunidades marginalizadas. A partir de uma perspectiva feminista e focada na autonomia, os palestrantes enfatizaram a importância de escolher intencionalmente como usamos ferramentas de IA, em vez de permitir que elas nos moldem. Eles incentivaram a apropriação das ferramentas para obter maior autonomia, entendendo por que você está utilizando uma ferramenta específica, para qual finalidade e como ela entregará o resultado desejado.
Dicas de segurança e recomendações
Nossos palestrantes compartilharam um conjunto de dicas práticas e realistas para interagir com IA de formas que priorizem segurança, autonomia e contexto. Essas dicas podem te orientar na navegação por ambientes digitais cada vez mais complexos.
Proteja dados sensíveis
- Pratique a minimização de dados antes de compartilhar informações com ferramentas de IA. Compartilhe apenas o estritamente necessário para cumprir a tarefa específica.
- Evite enviar dados confidenciais da organização ou da comunidade para ferramentas de IA.
- Revise e ajuste as configurações de privacidade e segurança das ferramentas de IA, incluindo desativar o treinamento com dados sempre que possível.
- Verifique as políticas de retenção de dados para entender por quanto tempo as ferramentas armazenam seus dados.
- Considere usar ferramentas populares sem criar contas, para reduzir a exposição de dados.
Verifique ferramentas e resultados
- Verifique informações geradas por IA antes de confiar nelas. A IA pode “alucinar” ou disseminar desinformação.
- Avalie se as ferramentas realmente atendem às suas necessidades ou apenas coletam dados.
- Considere se a IA é realmente necessária para a tarefa.
Priorize privacidade e autonomia
- Utilize ferramentas focadas em privacidade, como Duck.ai ou Lumo, sempre que possível.
- Esteja atento ao rastreamento por cookies e dados de localização. Use ferramentas como VPNs e Tor para minimizar o rastreamento. Você também pode limpar cookies regularmente para manter a privacidade.
- Explore alternativas de código aberto ou auto-hospedadas para ter maior controle.
- Tenha consciência da dependência de infraestrutura controlada por grandes empresas de tecnologia.
Use ferramentas de IA estrategicamente
- A IA deve apoiar o trabalho humano, não substituí-lo.
- Defina um objetivo de uso claro e significativo antes de adotar qualquer ferramenta.
- Evite a dependência excessiva. Muitos problemas ainda podem ser resolvidos de forma eficaz sem IA.
- Equilibre automação com julgamento humano e experiência.
- Avalie regularmente se uma ferramenta é realmente útil ou apenas adiciona complexidade.
Construa práticas de IA centradas na comunidade
- Inclua feedback da comunidade, recomendações, autonomia e consentimento no design e avaliação de conjuntos de dados de IA.
- Considere a inclusão de todas pessoas, pensando em deficiências, gênero, idioma e idade.
- Enfrente práticas extrativistas de dados e desigualdades trabalhistas no desenvolvimento de IA.
Localize e contextualize sistemas de IA
- Utilize métricas e métodos de avaliação localmente relevantes. Muitos sistemas de IA são construídos com pressupostos do Norte Global, que podem não funcionar adequadamente em outros contextos.
- Desenvolva conjuntos de dados e modelos que reflitam idiomas e realidades locais.
- Questione se os sistemas existentes são apropriados para o seu contexto.
Perguntas a se fazer antes de adotar uma ferramenta de IA
- A ferramenta está alinhada aos seus valores e contexto político?
- Qual é a reputação da ferramenta? E quais parcerias ou acordos foram assinados pela empresa responsável recentemente?
- Houve mudanças recentes nas políticas internas da empresa?
- Onde estão localizados os servidores?
- A ferramenta é baseada em modelos de linguagem pequenos ou grandes?
- A IA é realmente necessária para este caso ou isso pode ser feito com outro tipo de ferramenta, quando não simplesmente conversando com outras pessoas?
- A ferramenta é transparente quanto ao uso de dados e privacidade? Por quanto tempo ela armazena e retém nossos dados?
- A ferramenta utiliza infraestrutura das Big Techs?
Ferramentas locais e de código aberto recomendadas durante a chamada
Recursos adicionais compartilhados pelos palestrantes, participantes e membros da equipe TER
- EDIA, by Fundación Via Libre.
- Tor and AI [Spanish]
- How to use AI more safely by Digital Defenders Partnership [Spanish]
- Masakhane’s article on The value of inclusion of African Languages in AI
- Security, Privacy and Chat bots by TEDIC [Spanish]
- Safe prompting for the use of IA by TEDIC [Spanish]
Estamos ansiosos para continuar essas conversas em futuras chamadas comunitárias e espaços de aprendizado compartilhado, ao lado de profissionais de segurança digital e organizações que buscam apoio. Se você perdeu a chamada e gostaria de continuar a conversa, entre em contato com nossa equipe de suporte pelo e-mail cybercat@theengineroom.org
Você também pode agendar um CATio, um espaço dedicado ao apoio de organizações em risco ao redor do mundo com a Ferramenta de Avaliação de Segurança Cibernética (CAT).