La responsabilità penale del produttore di sistemi di intelligenza artificiale

• Autores: Beatrice Fragasso
• Localización: Diritto Penale Contemporaneo: Rivista trimestrale, ISSN-e 2240-7618, Nº. 1, 2023, págs. 26-45
• Idioma: italiano
• Títulos paralelos:
  • The criminal liability of artificial intelligence system manufacturers
  • La responsabilidad penal del fabricante de sistemas de inteligencia artificial
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    El artículo examina los problemas de atribución de responsabilidad penal al fabricante de sistemas de inteligencia artificial (IA) por los daños resultantes de su uso. El objetivo es determinar si los regímenes tradicionales de responsabilidad penal, que se basan en la comisión de conductas punibles por parte de personas físicas, son adecuados para el nuevo contexto tecnológico, en que algoritmos caracterizados por su autonomía, interactividad y opacidad, pueden llevar a cabo conductas impredecibles incluso para los propios fabricantes. Por un lado, la interposición de procesos de toma de decisión algorítmicos, muchas veces inescrutables, entre la conducta del fabricante y el daño dificulta el establecimiento de la relación de causalidad, dado que actualmente no existen leyes científicas que expliquen el comportamiento de los dispositivos inteligentes. Por otro lado, la crisis del modelo nomológico-deductivo parece repercutir, en cascada, en la determinación de la culpabilidad del fabricante, pues dicho modelo solamente podría aceptar la imputación de un resultado lesivo imprevisible a través de interpretaciones forzadas. Dado el reconocimiento de las dificultades de aplicación del derecho penal tradicional basado en el resultado, el artículo evaluará, finalmente, la oportunidad de recurrir a técnicas de anticipación de la protección penal.

  • English

    The article aims to address the issue of criminal liability for manufacturers in relation to harms caused by Artificial Intelligence systems (hereinafter ‘AI systems’). Such incidents can challenge existing liability frameworks that are based on human actions. As AI systems become more autonomous and capable of learning new skills and adapting to their environment, they may act in ways that the designers and developers cannot anticipate. The involvement of the manufacturer in the inscrutable algorithmic decision-making (referred to as the 'black box') raises concerns about establishing causation since there is no scientific understanding of how AI systems behave. Additionally, the culpability of the producer and user is a matter of debate. While the general unpredictability of AI systems may be foreseeable, establishing criminal negligence would require foreseeability of the specific harm that occurs in each individual case. Due to the challenges associated with assigning criminal liability for AI-related harms, this article concludes by exploring the potential introduction of new negligence offenses focusing on the improper design, operation, and testing of AI applications

  • italiano

    Il contributo esamina i problemi ascrittivi della responsabilità penale in capo al produttore di sistemi di intelligenza artificiale (i.a.), per gli eventi lesivi derivanti dall’impiego di questi ultimi. L’obiettivo è di verificare se i tradizionali regimi di responsabilità penale – che hanno come presupposto la commissione di fatti penalmente rilevanti da parte di persone fisiche – siano adeguati al nuovo contesto tecnologico, in cui algoritmi caratterizzati da autonomia, interattività e opacità possono porre in essere condotte imprevedibili per gli stessi produttori. Da un lato, l’interposizione dell’imperscrutabile decision making algoritmico tra la condotta del produttore e l’evento lesivo rende problematico l’accertamento del nesso di causalità, stante l’assenza, attualmente, di leggi scientifiche di copertura in grado di spiegare il comportamento dei dispositivi intelligenti. Dall’altro lato, la crisi del modello nomologico-deduttivo sembrerebbe ripercuotersi, a cascata, sull’accertamento della colpa in capo al produttore, al quale soltanto con gravi forzature potrebbe essere rimproverato il verificarsi di un evento lesivo concretamente imprevedibile. Preso atto delle criticità applicative del tradizionale diritto penale d’evento, il contributo vaglierà, infine, l’opportunità di fare ricorso a tecniche di anticipazione della tutela penale.