Uma pesquisa realizada pelo Google, em parceria com o Instituto Ipsos, revelou que 54% dos brasileiros utilizaram ferramentas de inteligência artificial em 2024. Com esse número em constante crescimento, aumenta o receio de que os sistemas provoquem comportamentos inadequados na sociedade.
Para enfrentar esse problema, existem profissionais responsáveis por criar, testar e avaliar respostas geradas pela IA, garantindo que elas não produzam conteúdos inapropriados ou perigosos, que promovam igualdade e que sejam ajustados cuidadosamente à medida que novos dilemas éticos surgem.
Esse trabalho minucioso é importante porque as IAs aprendem com os padrões de comportamento dos usuários com quem interagem. Então, uma pessoa pode introduzir temas ou costumes eticamente questionáveis. Logo, os treinadores de IA precisam fazer o melhor trabalho para garantir que as respostas do modelo estejam corretas e não sejam propagadas a outras pessoas indevidamente.
Como é feito o controle das respostas das IAs?
O controle das respostas envolve tanto processos técnicos quanto sociais, já que os algoritmos são programados para reconhecer e bloquear padrões estranhos. Além disso, os especialistas consideram normas culturais e sociais, assegurando que a IA seja relevante e respeitosa em diferentes contextos.
É fundamental garantir que os dados sensíveis dos usuários não sejam comprometidos. Nesse sentido, a empresa Outlier, que conecta colaboradores a grandes corporações da tecnologia, atua com essa missão. Profissionais brasileiros recebem várias tarefas e verificam se as informações repassadas pelos chatbots correspondem a fatos históricos e respeitam a relevância dos acontecimentos.
Em temas sensíveis como nazismo e racismo, os treinadores precisam testar os limites do sistema de defesa da IA para assegurar que nenhuma resposta ultrapasse o aceitável. Isso é feito por meio do fornecimento de informações e hipóteses variadas, com o intuito de identificar potenciais falhas ou respostas problemáticas.
Casos reais evidenciam que os erros ainda acontecem. A AI Overview, tecnologia do Google, já afirmou que os humanos devem comer uma pedra pequena por dia e sugeriu usar cola para grudar a massa de pizza ao queijo. Outro chatbot, ao ser questionado sobre ideias para uma noite de jogos com amigos, respondeu com a seguinte indicação: “Você pode beber até cair”.
Preconceitos da IA
Os preconceitos surgem em diversas etapas do desenvolvimento da IA:
- Dados: quando os dados de treino são incompletos, contêm preconceitos históricos ou não são representativos;
- Amostragem: quando os dados não representam adequadamente toda a população ou situação que a IA deve enfrentar;
- Seleção: forma como os dados são coletados ou escolhidos, levando a uma distorção da realidade;
- Confirmação: quando o modelo segue padrões que reforçam suposições ou estereótipos existentes;
- Algorítmico: concepção ou implementação técnica durante o desenvolvimento dos algoritmos;
- Implantação: uso dos sistemas de IA para prejudicar determinados grupos sociais;
- Interação: o comportamento dos usuários influencia o modelo de maneira tendenciosa.
Desafios éticos
Em meio aos avanços tecnológicos e dilemas morais, o trabalho desses profissionais orienta as máquinas e nos faz refletir sobre os valores essenciais que queremos carregar para o futuro. Afinal, se a tecnologia está se tornando autônoma, ela também precisa ser ética.
Diante de tantos assuntos sensíveis, os trabalhadores devem ser acolhidos pelas empresas, pois o fardo emocional e psicológico pode ser pesado. Para amenizá-los, as companhias oferecem programas de saúde e bem-estar, e monitoram constantemente como os profissionais se sentem em relação à própria capacidade de atuação.
Mesmo tratando-se de uma inteligência artificial, é a intervenção humana que garante respostas mais naturais, seguras e eticamente corretas. Compreender as causas dos erros e implementar estratégias para resolvê-los é o melhor caminho para tornar os sistemas de IA transparentes e inclusivos.
Leia também: Tendências do Instagram e TikTok para 2025: o que está bombando agora
Por: Pietra Gomes | Revisão: Thaisi Carvalho
