IA’s e Bots: como evitar que seus assistentes virtuais sofram assédio?

A internet foi uma das maiores descobertas da humanidade por trazer habilidades e novas possibilidades a muitos processos. E quando falamos de tecnologia no setor de atendimento ao cliente, as Inteligências Artificiais (IA’s) revolucionaram a forma de se relacionar com seus clientes, tornando todo o processo mais fluido, interativo e mensurável com o uso de assistentes virtuais e chatbots. 

No entanto, mesmo com esse benefícios, essas ferramentas ainda enfrentam um problema que é comum, mas que pode acarretar problemas à empresa e ao consumidor: o assédio.

Sim. Embora pareça irreal e desumano, existem pessoas que cometem essa violência com pessoas reais, mas o que é difícil de acreditar é fazer isso com robôs. 

São muitos casos recorrentes. Por isso, neste artigo você vai conferir os principais desafios enfrentados pelos bots e IAs em relação a essas questões e entender como empresas e usuários podem trabalhar juntos para proteger e promover um ambiente mais seguro para essas tecnologias. Continue a leitura e descubra!

Como ocorre o assédio e a violência online?

A violência e o assédio online são problemas generalizados, e bots e IAs não são exceção. Essas formas de comportamento prejudicial podem se manifestar de várias maneiras, como: insultos, uso de apelidos, criação de boatos ou envio de mensagens depreciativas, mensagens de ódio e até mesmo ataques coordenados com o objetivo de desacreditar ou destruir a reputação de um bot ou IA específica. 

Muitas vezes elas ocorrem por ações de grupos de stalkers e hateres que combinam a ofender uma vítima específica. 

A grande questão é que essas ações podem ter consequências significativas, impactando não apenas a funcionalidade e a confiabilidade das tecnologias, mas também afetando emocionalmente as equipes de desenvolvimento que as criaram.

As assistentes virtuais como a Siri, da Apple, a Alexa, da Amazon ou o Google Assistente, a Lu do Magalu, Bia do Bradesco, e muitas outras, são utilizadas para facilitar a comunicação com o cliente. 

Ou seja, essas tecnologias otimizam a burocracia de atendimento, contudo, majoritariamente, assistentes virtuais são representados pela figura feminina, o que levanta uma outra questão problemática e principal motivo do assédio: o machismo.

A associação da mulher às funções assistenciais reflete a posição de subserviência imposta a elas pelo machismo estrutural da sociedade. 

O fato de um chatbot ser imageticamente feminino acarreta que este seja submetido à misoginia, assim como as mulheres reais. Ainda mais porque o setor de tecnologia ainda possui muitos homens, embora o surgimento de mulheres na área tenha aumentado a cada ano, isso impacta diretamente em como assistentes virtuais são desenvolvidos e também em como se posicionam contra a violência de gênero. 

Quais as consequências da violência e do assédio contra bots e IAs?

Engana-se quem acha que fazer essa prática com as assistentes virtuais não causa mal algum. A violência e o assédio online realizados contra bots e IAs têm várias consequências negativas, como respostas inadequadas dos bots, resultando em interações menos eficazes com os usuários e prejudicando a qualidade do atendimento ao cliente. 

Além disso, ataques persistentes podem afetar negativamente a confiança dos usuários nas tecnologias de IA e dificultar a adoção generalizada de soluções automatizadas de atendimento ao cliente.

Por mais que as pessoas achem que fazer essas atrocidades com a tecnologia, existem leis também sendo trabalhadas para suportar isso.

Como as empresas estão atuando contra isso?

Sabendo desses pontos é normal se perguntar como as empresas estão agindo para impedir esses assédios contra as IA’s e bots. Como cada vez mais há a consciência desses casos, elas estão trabalhando com algumas estratégias, como:

• O uso de algoritmos para detecção de linguagem ofensiva: estão em desenvolvimentos o aprimoramento de processamento de linguagem natural (NLP) para detectar e filtrar conteúdo ofensivo e prejudicial. Ou seja, ele vai ser capaz de reconhecer palavras e frases ofensivas, bem como contextos e intenções negativas, e fazer com que os bots e IAs identifiquem e respondam adequadamente a esses comportamentos.

• Monitoramento e análise de dados em tempo real: maior rapidez para agir e mitigar danos nesses comportamentos inadequados. Isso é realizado pela análise de dados para identificar padrões e tendências de violência e assédio, permitindo ajustes contínuos nos algoritmos e nas políticas de resposta.

• Fortalecimento das políticas de uso e termos de serviço: há um aprimoramento nas políticas e inclusão de diretrizes claras sobre o comportamento aceitável dos usuários em relação aos bots e IAs. Isso ajuda a educar os usuários sobre a importância de tratar essas tecnologias com respeito e proíbe explicitamente a violência.

• Investimento em medidas de segurança e privacidade: Um exemplo é a autenticação de usuários, restrições de acesso, criptografia de dados e auditorias de segurança regulares. Ao garantir a integridade dos sistemas e a proteção das informações, as empresas reduzem a vulnerabilidade aos ataques de violência e assédio.

Portanto, as empresas estão adotando uma abordagem abrangente para combater a violência e o assédio contra bots e IAs, envolvendo desde o desenvolvimento de algoritmos avançados até a implementação de políticas claras e medidas de segurança robustas. 

Essas ações visam proteger os bots e IAs, garantir uma experiência de usuário segura e promover uma cultura de respeito e responsabilidade no uso dessas tecnologias.

Um exemplo foi o banco Bradesco, que recentemente se posicionou contra o assédio recebido por sua assistente, Bia, e criou campanhas publicitárias, comunicando os clientes que a ela não tolera mais esse tipo de ataque.

Está na hora de dizer não ao assédio em IA’s e bots

A violência e o assédio contra bots e IAs são problemas reais que exigem atenção e ação por parte das empresas de software, usuários e plataformas online. Proteger e promover um ambiente seguro para essas tecnologias é essencial para garantir o seu bom funcionamento, bem como para fortalecer a confiança dos usuários. 

Ao combater a violência e o assédio contra bots e IAs, as empresas podem colher uma série de benefícios. Em primeiro lugar, a qualidade do atendimento ao cliente pode ser aprimorada, garantindo respostas mais precisas e eficientes. Isso contribui para a satisfação do cliente e para a construção de relacionamentos duradouros com os usuários. 

Além disso, ao criar um ambiente online mais seguro, as empresas promovem uma cultura de respeito e integridade, fortalecendo a confiança dos usuários nas tecnologias de IA.

Agora que você já sabe como se comportar a partir daí, vamos juntos promover a conscientização contra o assédio em IA’s e bots e impedir a violência no atendimento online.