Inteligencia artificial y prevención de la violencia contra las mujeres: la responsabilidad del Estado ante el incumplimiento del deber de debida diligencia

• Autores: Andrea María García Ortiz, Mireia Molina Sánchez
• Localización: Estudios penales y criminológicos, ISSN 1137-7550, Nº. Extra 44 (Inteligencia artificial y sistema penal), 2023
• Idioma: español
• Títulos paralelos:
  • Ai and the prevention of violence against women: State liability for failure to comply with the due diligence obligations
• Enlaces
  • Texto completo
• Resumen
  • español

    Los poderes públicos tienen una serie de obligaciones en relación con la prevención de la violencia contra las mujeres. Para cumplir con estos estándares de debida diligencia, España ha desarrollado el Sistema VioGén, un algoritmo predictivo que otorga un determinado nivel de riesgo a las mujeres que denuncian haber sufrido violencia de género, el cual se tendrá en cuenta en la asignación de medidas de protección. Pero a toda herramienta de valoración del riesgo le es inherente un cierto número de errores y también pueden cometer errores las personas que las manejan. Surge entonces la pregunta de si las autoridades estatales deben responder por dichos errores, cuando no han sido capaces de proporcionar la protección a la que la legislación y los organismos internacionales les obligan. Ese es el problema que analiza este trabajo: si cabe exigir responsabilidad patrimonial a las Administraciones Públicas por errores en el funcionamiento de VioGén.

  • English

    Public powers have some obligations in relation to the prevention of violence against women.

    In order to comply with these due diligence standards, Spain has developed the VioGén System, a predictive algorithm that assigns a certain level of risk to women who report having suffered genderbased violence, which will be taken into account in the allocation of protection measures.

    But any risk assessment tool is inherently prone to a certain number of errors and the people who use it can also make mistakes. The question then arises as to whether the State should be held accountable for such mistakes when it has failed to provide the protection to which it is obliged by law and international bodies. This is the problem analysed in this paper: whether the public powers can be held liable for errors in the operation of VioGén.