🏠 ≡ Constitucional > Poder Judicial > IA en el ejercicio de la actividad jurisdiccional
PRINCIPIOS DE UTILIZACIÓN.
Cuarto. Principios de utilización de los sistemas de IA en el ejercicio de la actividad jurisdiccional.
La utilización de los sistemas de IA por los miembros del Poder Judicial en el ejercicio de la actividad jurisdiccional deberá ajustarse a los siguientes principios:
a) Principio de control humano efectivo. La utilización de sistemas de IA en el ejercicio de la actividad jurisdiccional estará siempre sometida a un control humano real, consciente y efectivo por parte de los miembros del Poder Judicial, sin que dichos sistemas puedan operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas, o la interpretación y aplicación del Derecho.
b) Principio de no sustitución de los miembros del Poder Judicial. En el ejercicio de la actividad jurisdiccional, la utilización de los sistemas de IA no podrá sustituir en ningún caso a los miembros del Poder Judicial para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y aplicación del Derecho.
c) Principio de responsabilidad judicial. La responsabilidad plena y exclusiva de las resoluciones, decisiones y actuaciones jurisdiccionales corresponde en todo caso a los miembros del Poder Judicial, con independencia de la utilización de sistemas de IA como instrumento de apoyo o asistencia.
d) Principio de independencia judicial. La utilización de sistemas de IA deberá realizarse de manera compatible con la independencia judicial, sin que los resultados generados por dichos sistemas condicionen, directa o indirectamente, la libertad de criterio del órgano jurisdiccional.
e) Principio de respeto a los derechos fundamentales. La utilización de sistemas de IA deberá respetar en todo caso los derechos fundamentales reconocidos en la Constitución y en el Derecho de la Unión Europea y, en particular, la tutela judicial efectiva, la igualdad, la no discriminación y la protección de datos personales.
f) Principios de confidencialidad y seguridad. En el tratamiento de datos judiciales mediante sistemas de IA deberá garantizarse la confidencialidad, integridad y seguridad de la información, evitando accesos no autorizados, usos indebidos o transferencias no permitidas.
g) Principio de prevención de sesgos algorítmicos. Los miembros del Poder Judicial deberán adoptar las cautelas necesarias para identificar y evitar sesgos algorítmicos derivados de la utilización de sistemas de IA.
h) Principios de proporcionalidad y uso limitado. La utilización de sistemas de IA deberá ser proporcionada a la finalidad perseguida y limitada a aquellos supuestos en los que puedan resultar útiles y eficaces como instrumento de apoyo o asistencia a la actividad jurisdiccional.
i) Principio de formación y capacitación. Los miembros del Poder Judicial podrán recibir formación y capacitación sobre el uso de los sistemas de IA en el ámbito de la Administración de Justicia.
InterJuez.es 