La reciente resolución de la Suprema Corte de Justicia de la Nación (SCJN) que avala la reforma al artículo 185 Bis C del Código Penal para el estado de Sinaloa tiende a generar un debate en la comunidad jurídica y tecnológica de México. Mientras tanto, se exhibe a nivel global la escasa visión de una Corte Superior en decadencia, que a botepronto aprobó una legislación que confunde el rol de la máquina y el ser humano en contexto de la relación entre el aprendizaje automático y el imperio de la ley.
Fernando Gutiérrez R.
Recientemente, la SCJN aprobó una definición sesgada de inteligencia artificial (IA) al resolver la legalidad de una reforma al código penal de Sinaloa relacionada a delitos digitales por manipulación y difusión de imágenes intimas sin el consentimiento de la víctima, error que podría poner en riesgo la correcta aplicación del derecho y la protección de derechos fundamentales de los gobernados.
Errores conceptuales de la SCJN
La SCJN ratificó en su sentencia una definición de IA en el artículo impugnado que la describe como “aplicaciones y programas que analizan fotografías, audios o videos y realizan ajustes automáticos para modificarlos”.
Sin embargo, esta concepción es reduccionista y confunde el papel de la IA con funciones o aplicaciones de edición automatizada convencionales.
La IA es un campo mucho más amplio, que involucra el diseño de agentes racionales o modelos computacionales capaces de procesar información, tomar decisiones y realizar tareas complejas asistidos por algoritmos avanzados, funciones estadísticas y redes neuronales mediante la comprensión de instrucciones en lenguaje natural.
Limitar la IA a una mera herramienta de manipulación digital convencional demuestra una comprensión insuficiente por parte de la SCJN y puede afectar la aplicación de la legislación penal a nivel nacional.
Confusión entre usuario y tecnología
Otro problema es la forma en que la SCJN incorporó la IA en el tipo penal al ratificar como constitucional la redacción del artículo 185 Bis C del código penal para el estado de Sinaloa reformado previamente por el legislativo local e impugnado por el gobierno de la república.
El artículo ratificado como constitucional por la Corte sanciona a quienes “hacen uso de la Inteligencia Artificial para manipular y exhibir contenido íntimo sin consentimiento de la víctima” pero deja abierta la posibilidad de que cualquier aplicación como Photoshop, Corel Draw y otras tecnologías convencionales de edición digital pueda considerarse IA o excluirse del tipo penal aludido por no serlo.
Esto confunde el rol del usuario y la función de la tecnología, generando incertidumbre sobre qué herramientas están sujetas a penalización y quiénes pueden ser considerados responsables de una conducta penal por su uso con fines antijurídicos.
La ambigüedad de la norma ratificada por la SCJN al resolver una acción de inconstitucionalidad promovida por el gobierno federal dificulta su aplicación justa y proporcional. Más allá de profundizar en la conducta y quién la comete y la forma de hacerlo, el artículo reformado y ratificado por la Corte penaliza además “a quien difunda imágenes manipuladas por
IA por medios tecnológicos”, dejando en la impunidad para quien lo haga a través de métodos “no tecnológicos”.
Aval de la Corte basada en definiciones deficientes
El derecho penal requiere precisión y claridad en la tipificación de delitos para evitar interpretaciones arbitrarias. Sin embargo, con la ratificación de constitucionalidad del artículo reformado del código penal de Sinaloa, la SCJN ha validado una definición deficiente que puede generar problemas en el futuro.
La constante evolución de la tecnología exige que las regulaciones sean flexibles, pero bien fundamentadas. La SCJN debería haberse apoyado –por lo menos- en expertos en ciencias computacionales y derecho tecnológico antes de ratificar una definición incorrecta al resolver sobre la constitucionalidad del pluricitado artículo reformado por el legislativo local de Sinaloa.
La aprobación de una definición inexacta de IA en la legislación penal y ratificada por la Corte superior puede afectar la protección de derechos de quienes le son vulnerados a través del uso de tecnologías asistidas por IA y fomenta la impunidad entre quienes incurren en tales conductas delictivas.
La falta de claridad también puede dar lugar a interpretaciones erróneas por parte de jueces y fiscales, incrementando la posibilidad de sanciones injustas, insuficientes o, en contrasentido, puede generar impunidad entre quienes delinquen y se escudan en las razones ambiguas de la norma. Además, el uso de una definición deficiente puede frenar el desarrollo de herramientas digitales legítimas por temor a sanciones derivadas de la confusión y dar pie a la proliferación de otras sin rigor ético amparadas en la clandestinidad y el anonimato.
Propuestas para regulación de la IA en el derecho penal mexicano
• Definir la IA de manera teórica, conceptual, técnica y precisa
• Adoptar una definición alineada con el consenso de expertos en inteligencia artificial, derecho tecnológico y otras ramas del conocimiento relacionadas.
• Incluir criterios como aprendizaje automático, procesamiento de lenguaje natural y toma de decisiones automatizada para diferenciar la IA de herramientas convencionales de edición.
• Regular el uso de tecnologías de manipulación digital sin confundirlas con IA
• Establecer claramente qué tipo de herramientas de edición digital pueden considerarse dentro del ámbito penal sin etiquetarlas erróneamente como IA.
• Crear un marco legal que sancione conductas específicas sin depender de términos tecnológicos ambiguos.
• Consultar a expertos multidisciplinarios en la formulación de leyes y sentencias
• Incorporar la opinión de especialistas en IA, ética tecnológica y derecho digital en el desarrollo de normativas.
• Generar foros y mesas de trabajo entre la academia, la industria tecnológica y poderes judicial y legislativo para evitar errores conceptuales, teóricos o técnicos.
La reciente sentencia de la SCJN sobre inteligencia artificial aludida en el código penal de Sinaloa demuestra la necesidad urgente de revisar cómo se regulan las nuevas tecnologías en el derecho penal mexicano. La confusión conceptual en la definición de IA y la falta de claridad en la redacción del tipo penal pueden generar problemas en la aplicación de la justicia.
Para mejorar la regulación, es imprescindible adoptar definiciones tanto técnicas como conceptuales, diferenciar correctamente la IA de otras herramientas digitales y definir con exactitud el rol de la tecnología y el ser humano en la interacción para generar contenido digital. Esto se logra al garantizar la participación de expertos en el desarrollo normativo con visión multidisciplinaria.
Hoy más que nunca México se encuentra en la imperiosa necesidad de que los cuerpos jurisdiccionales, legislativos y, en general, todas las entidades públicas involucradas en la regulación o el uso de las IA, profundicen en su conocimiento y comprensión, así como en sus implicaciones, tanto por su impacto en la administración pública como entre en la armonía entre los gobernados, de ahí la importancia de un enfoque multidisciplinario para su análisis y comprensión de las IA tendiente a regular su función en el conglomerado social.
Comprensión multidisciplinaria de la IA en la regulación pública
La inteligencia artificial (IA) ha dejado de ser una tecnología emergente para convertirse en un pilar fundamental del desarrollo social, económico y político de las naciones. Su impacto en las sociedades, la administración pública, el derecho y la economía digital exige que los cuerpos jurisdiccionales, legislativos y entidades reguladoras profundicen en su conocimiento y comprensión para garantizar una regulación efectiva y justa.
Sin embargo, la falta de una visión multidisciplinaria en la formulación de políticas y normas sobre IA ha genera incertidumbre y riesgos en su aplicación, de ahí la imperiosa necesidad de un análisis riguroso de la IA desde diversas disciplinas, con el objetivo de fortalecer su regulación y maximizar sus beneficios a la sociedad mexicana y quienes la integran.
La IA y su impacto en la administración pública
La IA está transformando la administración pública al mejorar la eficiencia, la toma de decisiones y la prestación de servicios. Su implementación en áreas como la salud, la seguridad ciudadana, la fiscalización y la educación han demostrado en otros paises su potencial para optimizar procesos y reducir costos.
Sin embargo, en México no ha avanzado la inclusión de la IA en la gobernanza de los tres niveles de gobierno en la medida que lo hacen las propias tecnologías. La falta de conocimiento teórico y conceptual por parte de los reguladores, legisladores y magistrados de la SCJN genera desafíos en la supervisión de su uso y desincentiva su inclusión en los entes gubernamentales y el sector privado.
La ausencia de un marco normativo claro y sin ambigüedades puede derivar en problemas de transparencia, sesgos algorítmicos y vulneraciones a los derechos fundamentales de todos los integrantes de la sociedad, más allá de los usuarios de los modelos generativos.
Comprensión de la relación máquina-humano
La relación entre las tecnologías de inteligencia artificial (IA) y el ser humano, desde una perspectiva regulatoria en el marco del imperio de la ley, debe ser analizada bajo múltiples enfoques disciplinarios.
La IA es un fenómeno transversal sustentado diversas áreas del conocimiento, por lo que su regulación requiere una comprensión profunda y multidisciplinaria. A continuación, algunas de las principales ciencias, disciplinas y ramas del conocimiento que influyen en las nuevas tecnologías digitales y que deben ser exploradas en el análisis y comprensión de las mismas de cara a la regulación legal o administrativa:
Filosofía y Ética Tecnológica
Ética de la IA: Examina los dilemas morales sobre autonomía algorítmica, responsabilidad y sesgos en los sistemas de IA. Se enfoca en garantizar que la IA opere de manera justa y transparente, además que define el rol del usuario y de las plataformas tecnológicas ante cualquier abuso de los alcances generativos de los modelos asistidos por IA.
Filosofía del Derecho: Evalúa los fundamentos jurídicos de la regulación de la IA, preguntándose sobre la justicia, el imperio de la ley y la legitimidad de imponer restricciones tecnológicas Intenta definir el rol ante los justiciables del humano y las tecnologías y en donde recae la responsabilidad penal ante una conducta antijurídica que derive de dicha interacción.
Filosofía de la Tecnología: Analiza el impacto de la IA en la sociedad y su papel en la evolución del pensamiento humano y la toma de sus decisiones. Deja claro hasta donde el ser humano es responsable de una conducta antijurídica y hasta donde las máquinas pueden llegar a afectar o beneficiar con o sin su influencia, asistencia o entrenamiento.
Derecho y Regulación Tecnológica
Derecho Penal: Define la responsabilidad legal en el uso de la IA, regulando delitos como la manipulación de imágenes o el uso de IA en fraudes o actos en contra de la persona, la sociedad o las instituciones.
Derecho Civil: Determina la propiedad intelectual de los algoritmos y protege los datos personales ante el uso masivo de IA y define el carácter legal de la propiedad sobre los bienes que surgen de la interacción del hombre y la tecnología, así como los derechos sobre ellos y su explotación lucrativa.
Derecho Administrativo: Regula el uso de IA en la gestión pública, asegurando que las decisiones automatizadas sean transparentes y equitativas.
Derecho Internacional: Examina acuerdos globales sobre IA, su uso en conflictos y la necesidad de estándares regulatorios internacionales a la vez que define las reglas del mercado internacional que surge de los servicios generativos de las IA.
Matemáticas, Estadística y Algoritmos
Algoritmia y Teoría de la Computación: Fundamenta el desarrollo de los sistemas de IA, asegurando su eficacia y corrección en el procesamiento de datos y define las funciones algorítmicas que interactúan en los procesos generativos de los modelos computacionales de acceso abierto.
Estadística y Probabilidad: Evalúa el comportamiento de los modelos de aprendizaje automático, identificando sesgos en la toma de decisiones algorítmicas, estadísticas o algebraicas.
Matemáticas Aplicadas: Contribuye a la optimización de modelos de IA mediante álgebra lineal y cálculos avanzados que pueden ser transparentados para fines de normatividad legal.
Psicología y Ciencias Cognitivas
Psicología Social: Examina cómo las personas interactúan con sistemas de IA y su trascendencia en las decisiones colectivas, conductas o patrones entre determinados grupos sociales o cómo la percepción de la tecnología afecta la confianza en los algoritmos o genera tendencias desbordadas en su uso.
Neurociencia Cognitiva: Analiza los procesos mentales relacionados con la IA, como la relación entre el pensamiento humano y los modelos generativos de redes neuronales artificiales y los patrones de conductas que genera en el ser humano y las consecuencias positivas o negativas que acarrea.
Ciencias de la Comunicación: Investiga la influencia de la IA en la forma en que se transmite la información y la percepción del lenguaje automatizado, aprendizaje automático y los modelos IA pueden constituirse como herramienta para eficientar la veracidad informativa y combatir la proliferación de noticias falsas y la manipulación mediática.
Economía Digital y Gobernanza de Datos
Economía y Regulación de Mercados: Analiza el impacto de la IA en el empleo, el comercio electrónico y presencial, la distribución de la riqueza y la potencialización de actividades que se insertan en el mercado laboral a partir de la incursión de la IA en el ecosistema digital.
Gobernanza de Datos: Regula el acceso y uso de la información en modelos de IA para garantizar el respeto a la privacidad.
Ciencias Políticas: Evalúa el impacto de la IA en el ejercicio del poder y la toma de decisiones políticas o aplicación de políticas públicas sustentadas en evaluaciones y análisis sociales asistidos por IA.
Para comprender la relación entre la IA y el ser humano dentro del marco del imperio de la ley, es indispensable adoptar un enfoque multidisciplinario. La integración de filosofía, derecho, matemáticas, psicología, economía y otras áreas y disciplinas del conocimiento permite diseñar regulaciones efectivas que garanticen el uso responsable de la IA sin limitar su potencial de innovación y desarrollo.
Regulación de la IA en el mundo
Unión Europea: Ha desarrollado el Reglamento de IA, que establece principios de transparencia y responsabilidad en el uso de algoritmos. Este marco normativo busca clasificar los sistemas de IA según su nivel de riesgo y establecer restricciones para aquellos considerados de alto riesgo.
Estados Unidos: La regulación de la IA está en constante evolución. En 2022, se propuso la Ley de IA, que busca garantizar la ética y seguridad en el desarrollo de tecnologías de IA. Además, la Casa Blanca ha publicado lineamientos sobre protección contra discriminación algorítmica, privacidad y transparencia.
China: Ha implementado estrategias nacionales para supervisar el desarrollo de la IA y proteger la seguridad nacional. Su enfoque se centra en el control gubernamental de los sistemas de IA y la regulación de su uso en sectores estratégicos.
Brasil: Ha propuesto una ley integral sobre IA, que enfatiza los derechos humanos y crea un régimen de responsabilidad civil para los desarrolladores de IA. La legislación busca prohibir ciertos sistemas de “riesgo excesivo” y establecer un organismo regulador para supervisar su cumplimiento.
Canadá: La Ley de Datos e Inteligencia Artificial, parte del proyecto de ley C-27, tiene como objetivo asegurar el desarrollo de IA responsable. Se enfoca en la protección de datos y la transparencia en el uso de algoritmos.
Japón: Ha adoptado un enfoque basado en la autorregulación, promoviendo estándares éticos en el desarrollo de IA sin imponer restricciones estrictas. Su estrategia busca equilibrar la innovación con la protección de los derechos de los ciudadanos.
Como se advierte, la diversidad de enfoques en la regulación de la IA a nivel global se hace patente en algunos países que priorizan la supervisión gubernamental, mientras que otros buscan fomentar la innovación con principios de autorregulación.
Los anteriores ejemplos demuestran la importancia de una regulación basada en el conocimiento técnico y multidisciplinario para evitar riesgos y maximizar el potencial de la IA.
La inteligencia artificial es una tecnología con implicaciones profundas en múltiples áreas del conocimiento. Su regulación no puede ni debe depender únicamente de definiciones simplistas o de enfoques reduccionistas, como las reformas al código penal de Sinaloa ratificadas por la SCJN. Es imperativo que los cuerpos legislativos, órganos jurisdiccionales superiores y, en general, todas las entidades públicas de México adopten una visión multidisciplinaria para comprender su funcionamiento, evaluar sus riesgos y garantizar su uso responsable.
La integración de disciplinas como la filosofía, la ética, las matemáticas, la psicología y el derecho, entre muchas otras, para la comprensión de las tecnologías IA tendiente a su regulación es esencial para construir un marco normativo sólido que permita a la IA contribuir al progreso y bienestar de los mexicanos y la humanidad en general.
