INTELIGENCIA ARTIFICIAL Y EXPLICACIÓN SIGNIFICATIVA
Asesoría Normativa Adlerhorst
―
INTELIGENCIA ARTIFICIAL Y EXPLICACIÓN SIGNIFICATIVA
Comentarios, Artículos y Consultas Frecuentes
INTELIGENCIA ARTIFICIAL Y EXPLICACIÓN SIGNIFICATIVA
Es una discusión generalizada que la Inteligencia Artificial(IA) viene impactando fuertemente lo económico y social, trayendo ventajas y beneficios para las personas, para el desarrollo empresarial y el interés público; lo cual se verá aumentado exponencialmente con la aplicación de los procesadores cuánticos, presentando mayores oportunidades, pero también elevará la amenaza a la protección de datos personales, privacidad, la no discriminación y otros derechos fundamentales, así como también para la seguridad y el funcionamiento eficaz del régimen de responsabilidad civil; sin perjuicio que, ya, es considerada de riesgo elevado por la doctrina y el legislador europeo, cierto tipo de IA, de conformidad a un criterio sectorial de características o actividades, como son la sanidad, el transporte, la energía y el sector público, siempre que con su aplicación existan riesgos significativos, atendido a que no toda la IA los genera. A saber, el modelo de trabajo empresarial actual, se basa en gran medida en la colaboración, el intercambio de datos, la integración de aplicaciones, el aumento de la movilidad, etc. viéndose los procesos actuales de clasificación y ofuscación de datos afectados por la implicación humana; siendo discusión abierta la medida en la que debe interactuar el ser humano con la inteligencia artificial; sin perjuicio que, en algunas áreas, los algoritmos van desplazándonos al mostrarse más eficiente gracias al desarrollo de automatización cognitiva o, directamente, de IA en su máxima expresión. Así las cosas, la toma de decisiones automática puede tener o no intervención humana significativa. En lo jurídico, se podría usar como apoyo para evaluar circunstancias, a fin de determinar si se ha dado o no un hecho que desencadena una respuesta jurídica, o a otro que la establezca, ponderando de forma computada todos los elementos establecidos en la programación que se estiman pertinentes para ello.
¿Cuáles son los principales cuestionamientos jurídicos a la IA?
Ahora bien, son cuestionamientos a la IA los sesgos y opacidad. Respecto de los primeros, se argumenta que son un riesgo para el ordenamiento jurídico y que hay cierta falta de garantías de su inexistencia, formada principalmente por la poca o nula regulación en la interacción entre el diseñador del algoritmo, el supervisor y el adjudicatario de los resultados. En este sentido, emergen por su relevancia los sesgos discriminadores, producidos en gran medida por el inadecuado entrenamiento de datos de los algoritmos, la insuficiencia de datos, el establecimiento de relaciones sin causaciones y en la cualificación del desarrollador; por lo que sumado a la falta de empatía emocional y la improbabilidad de su consecución se ha llegado a proponer la prohibición de decisiones automatizadas discrecionales. Por otra parte, la opacidad afecta la finalidad de recopilación, lo que está determinado por una pluralidad de factores que generan diversas cajas negras, que, a modo de muñecas rusas, se van superponiendo; oscureciendo nexos de razonamientos y decisiones; por lo que puede no ser posible entender realmente cómo el programa de IA está llegando a sus decisiones o predicciones; más allá que resulta casi un privilegio acceder a los algoritmos, los datos y el conocimiento generado; sin perjuicio que hay quien sostiene que, si la IA sobrepasa los niveles humanos de análisis, entonces el nivel de transparencia regulado nunca podría ser alcanzado, incluso si, el nivel de opacidad requerido para mejorar es mayor, entonces establecer requisitos de transparencia equivaldría a prohibir la actualización invitando al desarrollador a vulnerar la norma.
¿Qué se entiende por transparencia algorítmica?
En este sentido, de la doctrina administrativa del Consejo para la Transparencia, se promueve la posibilidad de dar a conocer a lo menos cómo se obtienen los datos, cómo se procesan, y la explicación de resultados, ello, considerando la necesidad de generar responsabilidad de los impactos de la aplicación de un determinado algoritmo.
¿En qué consiste la explicación significativa?
Con todo, la Doctrina comparada, orienta dentro del derecho a la información, a aquella específicamente significativa sobre la lógica aplicada, así como la importancia y consecuencias previstas para el interesado; sin perjuicio que, según otra parte de la doctrina, más que una forma técnica de explicación, corresponde a una sencilla explicación de fundamentos o criterios base de la decisión, por lo que no alcanza a una explicación algorítmica especializada. En conclusión, la complejidad jurídica que implica la IA es basta, razón más que suficiente como para no perder la pista al continuo debate que se produce respecto a esta y la forma como va adaptándose el legislador en el derecho comparado.
Consultar →