¿Quién es responsable si la inteligencia artificial (IA) lleva a una decisión judicial errónea? La IA como tal no posee personalidad jurídica, por lo que no puede ser imputable de delito ni sancionable legalmente.
Partiendo del hecho de que es un software programado para aprender a base de reglas, datos y procedimientos, su uso está delimitado por las necesidades de los seres humanos. Por lo tanto, es en ellos o en las instituciones que representan en quienes recaería la responsabilidad en caso de existir dolo (intención) o culpa (negligencia).
¿Quiénes podrían ser estos actores? 1. El desarrollador o fabricante de la inteligencia artificial: Este actor entra en la ecuación una vez que finalice la investigación y se pueda determinar la existencia de un error o defecto de diseño y programación que haya sido conocido, pero no divulgado.
También aplica en el caso extremo de que el software haya sido alterado de forma maliciosa. Sin embargo, lograr esto es sumamente complejo para el proceso investigativo, ya que es difícil obtener pruebas y demostrar el hecho.
2. La institución judicial, el Ministerio Público o la Policía Nacional: Al comprobarse el error, estas instituciones podrían ser consideradas responsables civilmente, sobre todo si no existen un protocolo claro, capacitación y experiencia suficiente que acrediten la capacidad del perito que haya realizado el análisis.
Esto se extiende a la utilización de herramientas de inteligencia artificial no validadas o no homologadas para los fines requeridos. 3. El perito forense: Este es quien utilizaría la IA como herramienta de apoyo, interpretando los resultados que esta arroje y presentándolos al tribunal.
Por ello, debe ser una prioridad que verifique adecuadamente su validez o fiabilidad, y a la vez, explicar las limitaciones que existan de la forma más clara posible. De no hacerlo así, podría incurrir en negligencia o impericia, pues su obligación es garantizar que el material probatorio sea auténtico y se mantenga una cadena de custodia adecuada.
