São Paulo, junho de 2024 – A ética no desenvolvimento e uso de chatbots e inteligência artificial (IA) é uma questão crucial na atual era tecnológica. Com a rápida evolução destas tecnologias e a sua crescente integração em diversas indústrias, surge a necessidade de estabelecer uma regulamentação que orientem a sua implementação de forma responsável e segura para usuários e empresas.
Cientes do aumento na adoção destas ferramentas, cresceram também as dúvidas quanto à sua utilização e às más práticas que podem acarretar. Por esta razão, organizações como a Assembleia Geral da ONU aprovaram recentemente a primeira resolução para a utilização da Inteligência Artificial, que tem como objetivo promover, em vez de dificultar, a transformação digital e o acesso equitativo aos benefícios destes sistemas. Entre os tópicos citados pela resolução a solicitação para que a regulamentação da IA esteja de acordo com as normas internacionais de direitos humanos e não represente riscos para o cumprimento desses direitos.
Sobre este tema, a Sinch, empresa líder em comunicações em nuvem, comenta a importância da regulamentação em IA, tecnologia e chatbots. Ao contrário do que muitos possam pensar, os chatbots não são tão recentes assim. Embora, pareça que sua utilização comercial aconteceu apenas nos últimos anos, algumas empresas trabalham com eles há mais de duas décadas.
Atualmente, a situação é que estas novas tecnologias são mais poderosas e surgem em uma velocidade exorbitante, o que dificulta a adaptação em diferentes áreas e de forma segura e regulada.
As regulamentações têm sempre impacto na implantação de novas tecnologias, ao mesmo tempo que estabelecem as bases sobre como fazê-lo de forma responsável e segura. Ainda não existe uma autoridade que regule todos os aspectos da IA e dos chatbots, e cada vez mais empresas surgem com orientações diferentes neste mesmo campo, realizando essas abordagens para garantir o bom uso das tecnologias.
Fábio Costa, Head of Artificial Intelligence Center of Excellence da Sinch, explica que a falta de regulamentação local não impede que as empresas se preocupem em serem éticas no uso de IA em suas operações. “A falta de regulamentação talvez afete mais o mercado de propriedade intelectual, já que muitos conteúdos em texto, áudio e vídeo são gerados baseados em fontes reais e hoje não há nenhuma lei ou proteção desses conteúdos originais. No final das contas, independentemente de as regulamentações terem algum impacto na velocidade que as tecnologias são implementadas, estas são necessárias, uma vez que é preciso ter cuidado com a gestão da informação.”
Brasil e a regulamentação da Inteligência Artificial
Em países como o Brasil, onde a regulamentação da IA, apesar de estar em debate no Congresso Nacional e no Senado, está aquém de regiões como a União Europeia (UE), existe uma necessidade urgente de desenvolver quadros regulamentares robustos. A colaboração com organizações internacionais e a adoção de normas internacionais podem ser fundamentais para estabelecer um quadro jurídico e ético robusto que proteja tanto os utilizadores como as empresas.
Na legislação da UE, os sistemas de IA devem ser supervisionados por pessoas, e não por automação, para evitar resultados prejudiciais. “Entretanto, destaco que os benefícios do uso de IA, atualmente, já são enormes, desde detecção de fraudes, automação de tarefas, descobertas de remédios e curas para doenças, recursos de acessibilidade e para gerar comodidades que hoje nem conseguimos viver sem”, comenta Costa.
Qual é o benefício da regulamentação?
A regulamentação desempenha um papel fundamental na implantação de novas tecnologias, estabelecendo as bases para a sua utilização ética e segura. No entanto, o ritmo do desenvolvimento tecnológico excede frequentemente a velocidade do desenvolvimento regulamentar, colocando desafios em termos de adaptação e aplicação eficaz da regulamentação existente.
Realizar os processos com responsabilidade é um passo pequeno, mas importante. Em termos de proteção de dados, a Sinch sabe o quanto é importante oferecer proteção aos seus clientes, apesar de não possuir leis que possam regular o seu uso. Porém, existem formas de garantir esta proteção quando se trata da utilização de IA em chatbots, uma vez que existem hoje protocolos que dão maior segurança às empresas e utilizadores, tais como:
• ISO 27001: Um padrão em segurança da informação, segurança cibernética e proteção de privacidade
• PCI DSS: Padrão de Segurança de Dados para a Indústria de Pagamentos, que visa definir controles de segurança destinados a proteger os dados dos usuários de serviços de compras e pagamentos online.
• Lei Geral de Proteção de Dados (LGPD): Responsável por proteger os dados pessoais e garantir a privacidade.
“O uso da IA certamente é um caminho sem volta, mas as orientações e boa prática sobre seus usos são fundamentais dado o potencial e impacto que essa tecnologia pode provocar. Se as empresas não fizerem as coisas bem, podem cometer um erro grave e fazer com que as suas empresas retrocedam cinco anos em termos de reputação e da confiança que os clientes depositam nelas. As coisas devem ser feitas com responsabilidade e com análises adequadas, e parceiros estratégicos que orientem você a implementar a tecnologia a seu favor, garantindo a proteção dos seus consumidores”, finalizou o executivo.
