Inteligencia Artificial y Justicia con Ana Nieto Carillo.

Resumen

Presentamos un conversatorio con Ana Nieto Carrillo: abogada de la Universidad de Valencia. Se trata de una conversación sobre el derecho y la inteligencia artificial, especialmente en el contexto educativo, destacando la importancia de formar a profesionales del ámbito legal en el uso y la comprensión de la inteligencia artificial.

Daniel Echeverría (México) y Ana Nieto (España) abordaron los sesgos en la IA, haciendo hincapié en la necesidad de legislación en América Latina y la sensibilización con perspectiva de género. También debatieron sobre cómo la inteligencia artificial puede ser utilizada en la educación, enfatizando la importancia de la inteligencia emocional para dar una perspectiva humanista al desarrollo de la IA y del derecho. Finalmente, invitaron a la comunidad académica al programa doctoral sobre inteligencia artificial aplicada al sistema de justicia penal, que incluirá docentes de Europa, México y Argentina, y culminará con una estancia posdoctoral en Perugia, Italia.

Detalles

• Introducción y presentación Daniel Echeverria y Ana Nieto Carrillo iniciaron una conversación sobre el derecho y la inteligencia artificial, especialmente en el contexto educativo. Daniel explicó que la profesora del órgano educativo no pudo asistir y que ellos abordarían tanto los aspectos legales como educativos, compartiendo luego la información completa una vez que el órgano educativo la revise (00:00:00). Ana Nieto Carrillo fue presentada como abogada y docente, experta en implicaciones jurídicas y en cómo la innovación educativa y la digitalización se interconectan con la inteligencia artificial, especialmente desde el área del derecho (00:03:50).

• Derecho e Inteligencia Artificial Daniel Echeverria y Ana Nieto Carrillo discutieron la importancia de formar a profesionales del ámbito legal en el uso y la comprensión de la inteligencia artificial, destacando tanto sus oportunidades como sus riesgos en el sistema de justicia penal (00:05:24). Ana Nieto Carrillo explicó que el Reglamento de Inteligencia Artificial de la Unión Europea categoriza los sistemas de justicia penal como de alto riesgo, lo que requiere un mayor control ético. Subrayó la necesidad de transparencia y de abordar el sesgo en los datos con los que se alimenta el sistema, citando el caso de Compas en Estados Unidos como ejemplo de problemas que surgen cuando no se garantiza la trazabilidad y se omiten los controles éticos (00:06:52).

• Sesgos y género en la IA Daniel Echeverria resaltó que, a diferencia de la Unión Europea y Norteamérica, muchos países de América Latina carecen de legislación para abordar los sesgos en la IA, lo que aumenta los riesgos jurídicos (00:08:11). Mencionó un estudio de Harvard que indicó que la corrección de sesgos raciales en la IA en Estados Unidos tomó alrededor de cinco años, y que la tendencia es que esto también ocurra en América Latina (00:09:46). Ana Nieto Carrillo enfatizó que, aunque se logren avances democráticos y leyes para la equidad de género, la voluntad de la ley se dificulta si los operadores jurídicos no están sensibilizados con una perspectiva de género, y sugirió que la tecnología, a diferencia de los jueces, puede ser reajustada para corregir defectos (00:11:11).

• Inteligencia Emocional y Educación Digital Daniel Echeverria y Ana Nieto Carrillo debatieron sobre cómo la inteligencia artificial puede ser utilizada en la educación, enfatizando la importancia de que no disminuya la capacidad de los estudiantes para reflexionar y pensar críticamente (00:18:59). Ambos estuvieron de acuerdo en que la inteligencia emocional es crucial para dar una perspectiva humanista al desarrollo de la IA y del derecho, y que debería ser una agenda en todas las escuelas (00:15:43) (00:22:28). Ana Nieto Carrillo destacó que el valor educativo reside en el cambio que se genera en la perspectiva de la persona y que los docentes deben enseñar inteligencia emocional a través del ejemplo (00:18:59) (00:22:28).

• Programa Doctoral y Futuro Daniel Echeverria y Ana Nieto Carrillo concluyeron la conversación invitando a la comunidad académica al programa doctoral sobre inteligencia artificial aplicada al sistema de justicia penal (00:22:28). Ana Nieto Carrillo mencionó que el curso abordará los riesgos y oportunidades de la IA, analizará herramientas existentes y hará hincapié en la inteligencia emocional y el reglamento europeo de inteligencia artificial, siempre buscando aportar valor en pro de la humanidad. Daniel Echeverria añadió que el programa incluirá a docentes de Europa, México y Argentina, y culminará con una estancia posdoctoral en Perugia, Italia, para debates y entrenamientos en laboratorios de IA jurídica (00:24:22).