Enfrentando los retos de la inteligencia artificial: ética, transparencia y futuro

• Antezana Soria Galvarro, Marlene L. ^[1]
  1. [1] Universidad Mayor de San Simón

     Universidad Mayor de San Simón

     Bolivia

     
• Localización: Gaceta Médica boliviana, ISSN 1012-2966, ISSN-e 2227-3662, Vol. 46, Nº. 2, 2023 (Ejemplar dedicado a: GACETA MÉDICA BOLIVIANA), págs. 5-6
• Idioma: español
• Títulos paralelos:
  • Facing the Challenges of Artificial Intelligence: Ethics, Transparency and the Future
• Enlaces
  • Texto completo (pdf)
• Resumen

  • Los últimos avances de la tecnología, específicamente la Inteligencia Artificial (IA), no terminan de sorprendernos y ya hay novedades de nuevos adelantos, lo cuál es imposible detener y la sociedad, de una u otra forma, es afectado en lo laboral o incluso en su cotidianidad.El denominativo de Inteligencia Artificial fue aplicado por primera vez por Jhon McCarthy en 1956 en una convención donde se trató sobre el lenguaje natural de algunas maquinas1.A lo largo del tiempo e históricamente, hubieron eventos sorprendentes como el Deep Blue que en 1997 ganó un partido de ajedrez al campeón Kasparov2, esto es tan solo un ejemplo de los muchos sucesos donde la IA intervino. Es producto de la IA el Transformador Generativo Preentrenado (GPT) que se lanzó en junio de 2018 con 117 millones de parámetros3, a partir del cual surgieron las diferentes generaciones del GPT, hasta la versión actual. No conviene que se escriba el número de generación, porque que de la hora actual que se escribe este editorial, hasta que se publique, es posible que cambie el GPT a una generación superior. ¿Pero qué es exactamente la IA?, solicitamos definirlo al mismo chatGPT: la inteligencia artificial (IA) se refiere a la capacidad de las máquinas o sistemas informáticos para realizar tareas que normalmente requieren de la inteligencia humana. Estas tareas incluyen el aprendizaje, el razonamiento, la resolución de problemas, la percepción visual, el reconocimiento de voz, el lenguaje natural y la toma de decisiones.No aplicar la IA en las diferentes áreas del conocimiento implica perderse de las bondades de los adelantos, si, es cierto, pero también es necesario considerar los posibles problemas que se puede tener al utilizar la IA.Los profesionales y estudiantes de las diversas áreas de la ciencia deben considerar la posibilidad de información errónea, donde la IA puede haberse basado en información inexacta por resultados sesgados4.Plantear una pregunta para que el chatGPT nos responda, debe evitar hasta minúsculas imprecisiones, lo contrario puede llevar a respuestas diferentes de lo correcto.Las múltiples diferencias entre personas, géneros, países, continentes, tiempos, circunstancias, labores, intereses, etc., pueden no ser vencidas por la IA, y las respuestas obtenidas pueden carecer de coherencia con la realidad y contexto del que solicita la información. Los diversos modelos de lenguaje pueden aprender y replicar sesgos presentes en los datos de entrenamiento, esto puede generar conflictos en grandes decisiones como institucionales hasta de estado, pudiendo generar reflejando perjuicios hacia diferentes grupos de población o beneficio a quienes no corresponde, ejemplo de estos hay varios, como la selección de personas factibles de alcanzar un crédito bancario, individuos con mas probabilidad de recaer en hechos delictivos, la atribución de posibilidad de x enfermedad basado en grupo sanguíneo, y así hay varios errores que se presentaron en la historia de la ciencia5. Es muy posible que lo negativo planteado en líneas superiores sea salvado, es lo deseado, sobre todo exigiendo y/o forzando la interpretabilidad. Confiar en las decisiones que toman los algoritmos de la IA, es fundamental, pero la confianza será a partir de la posibilidad de interpretar o explicarnos los algoritmos que llevaron a una determinada decisión6. Lo planteado repercutirá en los procesos de enseñanza y aprendizaje. Los estudiantes portan ordenadores como recurso primordial de su persona, en ese contexto, no estamos lejos de que no haya derecho a desconocer temas encomendados, por tener todas las posibilidades de explorar temas específicos de una asignatura. El desafío estará en el trabajo de verificación de datos, para ello es necesario promover cursos sobre la interpretación de resultados de inteligencia artificial y la verificación de datos7.Es necesario replantear las nuevos recursos de enseñanza, basado en competencias, donde se considere proporcionar a los estudiantes conjuntos de datos de práctica que puedan explorar y analizar. Esto les permitirá aplicar las habilidades adquiridas para evaluar la calidad y autenticidad de los datos8. Les será de utilidad promover en los estudiantes el estudio y análisis de caso éticos que destaquen situaciones donde la falta de transparencia o la manipulación de datos haya llevado a resultados no confiables. Esto ayudará a los estudiantes a comprender los riesgos asociados9.Fomentar la participación en foros de discusión en línea o en el aula para que los estudiantes puedan intercambiar ideas y experiencias sobre la interpretación de resultados de inteligencia artificial y la verificación de datos. El diseñar proyectos prácticos que desafíen a los estudiantes a aplicar sus habilidades en la verificación de datos en escenarios del mundo real permitirá practicar y aplicar lo aprendido de manera significativa9.En el área de la investigación, así como existen grandes adelantos para obtener información, así también se progresa a la exigencia de la declaración del uso de IA y su interpretabilidad. Concluyo reconociendo los grandes beneficios de la IA pero también la necesidad de exigirnos el cuestionamiento de los algoritmos de respuestas.