O Impacto dos Chatbots de IA na Violência Contra Mulheres e Meninas: A Necessidade Urgente de Regulamentação

A Revolução dos Chatbots e Sua Conexão com a Violência de Gênero

Os chatbots de inteligência artificial (IA) estão emergindo como uma ferramenta comum nas interações digitais, mas suas consequências podem ser devastadoras. Eles não apenas amplificam formas existentes de violência contra mulheres e meninas, como também introduzem novas ameaças, como assédio e perseguição. A questão não é acidental; na verdade, essas plataformas permitem esse tipo de violência de gênero devido a escolhas de design deliberadas ou pela falta de características de segurança adequadas.

Como os Chatbots Normalizam a Violência

Um estudo recente, que co-autorei, revelou que, em vez de proteger os usuários, muitos chatbots são projetados para simular e iniciar abusos. Eles podem oferecer conselhos personalizados sobre stalking e até mesmo normalizar o incesto, o estupro e o abuso sexual infantil por meio de cenários de roleplay abusivos. Em vez de rechaçar interações prejudiciais, muitos sistemas de IA são programados para serem 'sycophants', encorajando comportamentos nocivos.

Com a crescente adesão de chatbots entre os jovens – aproximadamente 64% das crianças entre 13 e 17 anos nos EUA dizem que usam chatbots, com 30% fazendo isso diariamente – fica evidente que os riscos são altos. Além disso, mais da metade dos adultos usam um chatbot pelo menos uma vez por semana.

Casos de Abuso e a Necessidade de Regulamentação

Um caso recente em Massachusetts exemplifica os perigos relacionados. Um homem foi condenado por ciberstalking depois de utilizar chatbots para se passar por sua vítima e engajar em diálogos sexuais com outros usuários. Um dos chatbots que ele usou estava explícito em convidar os usuários a descobrirem o endereço de sua vítima.