Por Macarena Sucunza / EAAE

Mario Vivas, Julián Jalil y Fernando Shina reflexionaron sobre la IA desde distintas perspectivas que dialogan entre sí. Un debate imprescindible para seguir pensando el uso de esta herramienta y cómo mejorar su aplicación en el Estado.

El viernes 9 de octubre tres reconocidos juristas de Chubut debatieron sobre la Inteligencia Artificial (IA), la posibilidad de regularla, el marco normativo vigente y su impacto en el ejercicio profesional.

La charla se enmarcó en las terceras Jornadas Patagónicas de Derecho Civil, organizadas por la Escuela de Capacitación del Poder Judicial con la colaboración de la Escuela de Abogadas y Abogados del Estado, y la Facultad de Ciencias Jurídicas de la Universidad Nacional de la Patagonia “San Juan Bosco”.

Julián Emil Jalil, Juez de la Cámara de Apelaciones en lo Civil y Comercial de Puerto Madryn, disertó sobre los daños causados por los sistemas inteligentes y el marco normativo aplicable. Aseguró que regularlos y establecer parámetros de responsabilidad no es fácil, porque la tecnología se va modificando minuto a minuto.

Sugirió tomar como referencia el sistema de riesgos establecido por el Parlamento Europeo: inadmisible, alto, limitado y nulo o mínimo. En Argentina no existe una regulación específica para la IA y, en su opinión, tampoco debería existir porque su uso y alcance aún está en proceso. “Regular cuando va a quedar obsoleto en seis meses sería adelantarnos”, opinó. También se refirió al marco regulatorio vigente que podría aplicarse: Ley de Datos Personales, Ley de Defensa al Consumidor y hábeas data, entre otros. Recordó que en Chubut se puede consultar el fallo del Superior Tribunal de Justicia (STJ) que establece pautas de aplicación.

“Sin marco regulatorio quedamos desprotegidos. Y con un marco regulatorio estricto no permitimos el avance de la tecnología. ¿Hasta dónde podemos permitir o limitar? Porque esto es un fenómeno que va a seguir creciendo”, interrogó Jalil.

Diseñar modelos normativos bajo un nuevo paradigma

A la hora de pensar la regulación de la IA y su posible legislación, Fernando Shina, abogado especialista en derecho al consumidor, instó a reflexionar en cómo impactan las neurociencias en el cerebro. Para él es propicio crear diseños normativos que tengan que ver con la conducta humana.

“En las sociedades de consumo no hay buenos y malos, hay una coreografía […] nosotros tenemos que hacer que esa coreografía funcione y mantenga el equilibrio […] no hay alguien absolutamente malo y alguien absolutamente vulnerable”, opinó.

La propuesta que hizo fue cambiar el eje: no hay un problema de falta de información o de acceso a ella, sino en el encuadre informativo. “Les puedo asegurar que con información veraz, detallada, cierta y todo lo que habla el artículo 4 (Ley Nº24.240 de Defensa al Consumidor) ustedes pueden llegar a la decisión equivocada”, aseguró.

“Gran parte de lo que se piensa racional es impulsivo, intuitivo, algorítmico. Estamos todo el día hablando de algoritmos sin saber que somos un algoritmo torpe. ¿Por qué? Porque somos más lentos. ¿Qué hace el algoritmo? Recupera para atrás datos estadísticos, procesa en el presente y predice el futuro. Es lo que hacemos”, dijo y profundizó: “Ningún consumidor define y toma decisiones basado en información real, ¿cuántos de ustedes leyeron el contrato de adhesión del último celular que se compraron?”.

La propuesta de Shina es promover el diseño de modelos normativos pensando en personas que no leen contratos ni anhelan información porque deciden en base a tres sesgos: el de optimismo, el de confirmación y la falacia de la planificación. “Se trata de diseñar normas que tengan que ver con la conducta real, que es sesgada. Tomamos treinta y cinco mil decisiones por día, el 95 % no son racionales. Armar toda la teoría general del acto jurídico a partir del discernimiento, la intención y la libertad es un error”, concluyó.

Una herramienta útil que no elude la responsabilidad profesional

La incidencia que el uso de la IA tiene sobre los profesionales del derecho fue abordada en la conferencia por Mario Vivas, ministro del STJ, quien dijo que abogados y abogadas deben verificar la exactitud y fiabilidad de la información. Según su opinión, esta herramienta, lejos de desplazar la responsabilidad de los profesionales, la agrava.

A modo de ejemplo, mencionó algunos casos en los que la justicia actuó frente al uso irreflexivo de sistemas inteligentes en presentaciones judiciales. Se refirió a las alucinaciones, que se producen cuando la IA incorpora casos inexistentes o información falsa; nombró las violaciones al deber de confidencialidad y a la protección de datos y habló de la inyección de información (prompt injection).

Citó como ejemplo un caso de Río Negro, en donde la Cámara de Apelaciones de General Roca advirtió que tanto la parte actora como la demandada usaron citas y precedentes inexistentes (alucinaciones). Al hacerlo, el tribunal dijo que los resultados que ofrece la IA deben ser necesariamente cotejados.

Respecto de la violación al deber de confidencialidad y al resguardo de información, Vivas mencionó un hecho que ocurrió en mayo del corriente año en Estados Unidos, ante la Corte del Distrito Sur de Nueva York. Allí, un exejecutivo acusado de fraude brindó a la IA datos de la empresa donde supuestamente había llevado adelante ese delito para conseguir posibles estrategias de defensa. El tribunal concluyó que la IA no formaba parte del equipo de defensa ni se encontraba alcanzada por un deber de confidencialidad.

Por último, habló de la técnica del prompt injection o inyección de instrucciones, y puso como ejemplo un caso que ocurrió este año en Brasil. En una petición dos abogadas incorporaron instrucciones ocultas en el cuerpo del escrito para que la IA realizara un análisis superficial de la presentación, evitara cuestionar la documentación presentada y orientara su tratamiento de manera favorable a quien había promovido la acción. El tribunal que recibió la petición también usó IA y fue así como detectó la tentativa de sabotaje al sistema judicial.

Para Vivas, la inteligencia artificial es un instrumento valioso, pero su uso “no releva al profesional del deber de verificar la existencia y fidelidad de las fuentes que incorpora a sus presentaciones, ni lo libera de las consecuencias derivadas de proporcionar información confidencial a plataformas que no ofrecen las garantías necesarias para su resguardo”.

Con el foco en distintos ejes, los tres profesionales contribuyen a la discusión sobre una realidad cada vez más presente: la IA está inserta en nuestra vida personal y laboral. La clave, coincidieron, está en utilizarla como aliada, con responsabilidad y criterio, sin perder de vista que las decisiones y sus consecuencias siguen siendo humanas.