Ética, Legalidad y AI Safety
Casos reales en Argentina, blindaje de secreto profesional (Ley 25.326) y el check-list ético insalvable.
Módulo 6: Ética, Legalidad y AI Safety (Sin excusas)
La disrupción tecnológica nos dio superpoderes, pero no nos exime de nuestras obligaciones estatutarias. Usar inteligencia artificial no cambia el núcleo de nuestra profesión: el secreto profesional y la responsabilidad sobre lo que firmamos.
Vamos a hablar de los riesgos reales, con casos reales, y cómo blindar tu práctica diaria.
1. El peligro de las alucinaciones (La firma es tuya)
En junio de 2023, en Nueva York, ocurrió el evento fundacional de la estupidez artificial en el derecho: el caso Mata v. Avianca. Los abogados le pidieron a ChatGPT que les buscara jurisprudencia. El modelo hizo lo que hace cuando no sabe algo: alucinó magistralmente. Inventó media docena de fallos con citas internas y números de expedientes falsos. Los abogados los presentaron sin chequear y sus carreras terminaron destruidas públicamente.
Si pensabas que esto solo pasaba en Estados Unidos, te equivocás. El sistema judicial argentino ya está sancionando estas prácticas:- 🇦🇷 Caso "Giacomino" (Cámara de Apelaciones en lo Civil y Comercial de Rosario): La alzada detectó que un escrito recursivo contenía fallos inexistentes. El tribunal exigió explicaciones y el profesional tuvo que admitir que usó IA sin corroborar los precedentes.
- 🇦🇷 Caso "Acevedo" (Cámara Civil y Comercial de Morón): El tribunal concluyó de oficio que el documento presentado fue producto directo de una IA carente de curaduría humana, al ser imposible rastrear la jurisprudencia en los repositorios oficiales.
🚨 La Lección Principal:
La IA te exime del trabajo repetitivo, pero jamás de tu responsabilidad profesional. Al juez o al Colegio de Abogados no le importa si el error lo cometió el paralegal de primer año o GPT-4. La firma es tuya. Los platos rotos los pagás vos. La validación cruzada con InfoLEG, la CSJN o la SCBA es una obligación insalvable.
2. Privacidad de Datos y Secreto Profesional
El secreto profesional es sagrado. En Argentina, el tratamiento de la información confidencial está reglado por la Ley N° 25.326 de Protección de los Datos Personales.
Cuando ingresás texto en la ventana de chat de herramientas como ChatGPT gratuito o Claude, por defecto estás cediendo esos datos para que las empresas reentrenen sus modelos. Imaginá que cargás un borrador de un acuerdo de fusión ultra-confidencial para mejorar la redacción. Semanas después, un tercero le pregunta a la IA sobre rumores del mercado y el modelo, habiendo aprendido de tu documento, filtra la operación. Estás vulnerando el Art. 11 de la Ley 25.326.
Cómo proteger la confidencialidad en la práctica:
[CLIENTE], "Empresa Acme" por [EMPRESA]. Ocultá CUITs, direcciones y montos exactos.💡 Tip Práctico para tu Estudio:
Incluí en tus contratos de honorarios una cláusula transparente: "El Cliente autoriza al Estudio a utilizar sistemas tecnológicos de gestión documental e inteligencia artificial provistos por terceros, bajo el exclusivo compromiso de utilizar únicamente entornos cerrados, vía API o locales, que garanticen contractualmente la exclusión del reentrenamiento de modelos públicos con los datos suministrados."
3. Sesgos y Derechos de Autor
- El problema del Copyright: ¿De quién es el copyright de un contrato brillante generado en un 90% por IA? En casi ninguna jurisdicción califica para derechos de autor por carecer de "autoría humana". Pero seamos honestos: un contrato de locación no se registra como una novela. Tu valor no radica en ser el dueño literario del texto, sino en que ese texto soluciona el problema jurídico del cliente.
- El peligro de los Sesgos: Los modelos reproducen los prejuicios humanos. Si usás IA para evaluar currículums en tu estudio, o para "predecir" la credibilidad de un testigo en base a sus declaraciones, podés introducir sesgos raciales o socioeconómicos. Esto, además de antiético, vulnera la Resolución CM N° 255/2025 (CABA) que exige asegurar la centralidad en la persona humana y un escrutinio crítico para evitar la discriminación.
El Check-List Ético de la IA Diaria
Antes de mandar ese escrito, contestación o memo generado/corregido por Inteligencia Artificial, hacete siempre estas 4 preguntas:
- [ ] Veracidad: ¿Verifiqué la existencia real de TODO fallo, artículo, ley o doctrina citada en las bases de datos oficiales?
- [ ] Confidencialidad: ¿Configuré el modelo para no entrenar con mis datos, o usé directamente la API / entorno local seguro?
- [ ] Asunción de Autoría: ¿Me siento lo suficientemente seguro como para firmar este texto, defenderlo en una audiencia y hacerme responsable ante el Tribunal si resulta estar mal fundamentado?