No início de fevereiro, o chatbot de IA Replika foi solicitado pela Autoridade Italiana de Proteção de Dados Garante para interromper o processamento de dados pessoais dos cidadãos. O objetivo do software de IA era ser um “amigo de IA” virtual para interações sociais que não exigissem verificação de idade. A DPA descobriu que o bot de IA processou dados pessoais de crianças sem o consentimento delas.
Com o avanço das tecnologias de IA, especialmente após a introdução do ChatGPT e do Google Bard, mais casos semelhantes podem ocorrer.
E antes de, sem saber, se encontrar em tal situação, seria muito útil informar-se sobre as disposições do RGPD relevantes para a IA:
Dados pessoais:
Os sistemas de IA são projetados para coletar grandes quantidades de dados, incluindo dados pessoais, que são então analisados e processados. De acordo com o RGPD, determinados requisitos devem ser cumpridos. A tónica é colocada na transparência, legalidade e segurança no tratamento de dados pessoais. Os sistemas de IA devem, por conseguinte, ser desenvolvidos tendo em mente estes requisitos de proteção de dados. Os utilizadores devem ser informados sobre que dados são recolhidos e como são utilizados. E precisam de poder confiar em sistemas de IA para garantir a confidencialidade, integridade e disponibilidade dos seus dados pessoais.
Definição de perfis
De acordo com o RGPD, as pessoas têm o direito de não ter os seus dados utilizados para “definição de perfis”. A definição de perfis é um processo automatizado concebido para prever o comportamento, atitudes ou interesses de um indivíduo com base nos dados que recolhe. Por conseguinte, os sistemas de IA devem ser concebidos de forma a que o utilizador seja claramente informado sobre a forma como a definição de perfis é utilizada.
Consentimento
À semelhança do tratamento de dados pessoais, o aspeto do consentimento no RGPD exige que o utilizador consinta explícita, consciente e voluntariamente no tratamento dos seus dados pessoais. Por conseguinte, os sistemas de IA devem ser concebidos para obter esse consentimento e informar plenamente os utilizadores sobre os dados recolhidos, a divulgação dos dados a terceiros e a possibilidade de retirar o consentimento a qualquer momento.
Resultado:
Os desenvolvedores de IA devem garantir que seus sistemas sejam projetados com privacidade em mente e que os usuários estejam totalmente informados sobre o processamento de seus dados pessoais. A conformidade com o GDPR é fundamental para construir confiança nos sistemas de IA e garantir que eles sejam usados de uma forma que respeite o direito dos cidadãos à privacidade e à proteção de dados.
