Resumen de Éticas falibles para máquinas (in)falibles

Jordi Vallverdú i Segura, Sarah Boix

• español

  Los códigos éticos humanos no son coherentes en su diseño ni tampoco tienen una distribución universal. Por lo tanto, la imposible universalidad ni completitud de los sistemas éticos para la inteligencia artificial (IA) es algo evidente que tan sólo fue apuntado someramente por el estudio reciente del MIT (Moral Machine). Al tener toda ética un matiz cultural inequívoco, y también incluir grados de interpretación en sus principios (como el derecho universal a la vivienda, evidente si bien ninguna institución vela por su cumplimiento, algo que una máquina no entendería). Al mismo tiempo se produce un problema formal: un sistema de IA no siempre cuenta con suficientes datos ni tiempo óptimo para procesar una situación, por lo que un factor de azar ético debe tenerse en cuenta en el diseño de tales sistemas.

• English

  Human ethical codes are not consistent in their design, nor are they universally distributed. Therefore, the impossible universality or completeness of ethical systems for artificial intelligence (AI) is something evident that was only briefly pointed out by the recent MIT (Moral Machine) study. As all ethics have an unequivocal cultural nuance and include degrees of interpretation in its principles (such as the universal right to housing, evident although no institution ensures compliance, something that a machine would not understand). At the same time there is a formal problem: an AI system does not always have enough data or optimal time to process a situation, so a factor of ethical chance must be considered in the design of such systems.