Big data, inteligência artificial e policiamento preditivo: bases para uma adequada regulação legal que respeite os direitos fundamentais

• Cyntia Souza de Menezes ^[1] ; José Ramon Agustina Sanllehí ^[2]
  1. [1] Universitat Internacional de Catalunya

     Universitat Internacional de Catalunya

     Barcelona, España

     
  2. [2] Universitat Abat Oliba CEU

     Universitat Abat Oliba CEU

     Barcelona, España

     
• Localización: Novos Estudos Jurídicos (NEJ), ISSN-e 2175-0491, Vol. 26, Nº. 1, 2021 (Ejemplar dedicado a: Janeiro - Abril/2021), págs. 103-135
• Idioma: portugués
• Títulos paralelos:
  • Big data, inteligencia artificial y policiamiento predictivo: bases para una adecuada regulación legal que respete los derechos fundamentales
  • Big data, artificial intelligence and predictive policing: bases for proper legal regulation that respects fundamental rights
• Enlaces
  • Texto completo
• Dialnet Métricas: 4 Citas
• Resumen
  • español

    Delante de las nuevas herramientas del análisis policial si por un lado la polícia cumple una función esencial en la prevención, detección e investigación de un delito, ella no está libre de tener su trabajo limitado y sometido al principio de la legalidad. La eficacia del trabajo policial no puede, como sabemos, saltar las garantias propias de un Estado de Derecho y su actividad debe someterse a criterios transparentes de razonabilidad y control, entre otros principios. No es legítimo que, para garantizar la seguridad de todos, sea sacrificada la privacidad de aquellos que apenas superficialmente parecen sospechosos. Las denominadas investigaciones prospectivas (phishing expeditions) son prohibidas cuando es afectado un derecho fundamental que requiera autorización judicial previa. Frente a las reflexiones anteriores, entendemos que tal vez sea precipitada la aplicación masiva de sistemas de IA a modelos de polícia predictiva, mientras (i) estén pendientes de refinación; (ii) no tengan una base científica sólida, y; (iii) operen en un ambiente donde el marco legal, regulatorio y de protección ciudadana es aún limitado. Principalmente cuando estos sistemas tienen el potencial de afectar de manera importante la vida de grupos y poblaciones en situación de exclusión y que se ven cada día más vigilados.

  • português

    Diante das novas ferramentas de análise policial se por um lado a polícia cumpre uma função essencial na prevenção, detecção e investigação de um delito, ela não está livre de ter o seu trabalho limitado e submetido ao princípio da legalidade. A eficácia do trabalho policial não pode, como sabemos, saltar as garantias próprias de um Estado de Direito e sua atividade deve submeter-se a critérios transparentes de razoabilidade e controle, entre outros princípios. Não é legítimo que, para garantir a segurança de todos, seja sacrificada a privacidade daqueles que apenas superficialmente parecem suspeitos. As denominadas investigações prospectivas (phishing expeditions) são proibidas quando é afetado um direito fundamental que requeira autorização judicial prévia. À luz das reflexões anteriores, entendemos que talvez seja precipitada a aplicação massiva de sistemas de IA a modelos de polícia preditiva, enquanto (i) estejam pendentes de refinação; (ii) não tenham uma base científica sólida, e; (iii) operem em um ambiente onde o marco legal, regulatório e de proteção cidadã é ainda limitado. Principalmente quando estes sistemas têm o potencial de afetar de maneira importante a vida de grupos e populações em situação de exclusão e que se veem cada dia mais vigiados.

  • English

    In light of the new tools of police analysis, while on one hand, the police fulfill an essential role in the prevention, detection and investigation of an offence, on they other, they are not free to have its work limited and subject to the principle of legality. The effectiveness of police work cannot, as we know, ignore the guarantees inherent to a State of Law; their activities must be subject to transparent criteria of reasonableness and control, among other principles. It is not legitimate, for example, to sacrifice the privacy of those who only appear to be suspicious in order to ensure the safety of all. So-called phishing expeditions are prohibited when a fundamental right that requires prior judicial authorization is affected. In light of previous reflections, we understand that the widespread application of AI systems to predictive police models may be precipitated, while (i) still requiring further refinement ; (ii) not having a sound scientific basis, and; (iii) operating in an environment where the legal, regulatory and citizen protection framework is still limited. Especially when these systems have the potential to significantly affect the lives of groups and populations in situations of exclusion and that are increasingly monitored.