Las reglas del juego: ¿cuándo un algoritmo te puede llevar a prisión?
El proyecto no es un capricho de última hora. El senador Rolando Zapata, presidente de la comisión redactora, asegura que la propuesta es el fruto de 16 meses de "escucha activa" con 72 especialistas del sector privado, academia y derechos humanos. Suena a un esfuerzo titánico y plural, pero las alarmas ya están sonando y el fantasma de la sobrerregulación acecha.
Inspirada hasta la médula en la estricta Ley de Inteligencia Artificial de la Unión Europea, la normativa mexicana clasifica las infracciones en tres niveles exactos: leves, graves y gravísimas. Es en esta última categoría donde el Estado saca los dientes.
Si pensabas que juguetear con herramientas generativas era inofensivo, el marco legal propone castigar con todo el peso judicial —incluyendo la privación de la libertad— lo que denomina "prácticas prohibidas". Las fronteras son claras:
Infracciones gravísimas según el proyecto de ley
- Violencia digital y deepfakes: Tolerancia cero a la generación de contenidos sintéticos de carácter sexual o íntimo sin consentimiento expreso. Si el material involucra a menores de edad, el delito salta de categoría automáticamente. También queda penado usar IA para automatizar campañas de odio, acoso o extorsión.
- Manipulación masiva: Emplear IA para la "manipulación cognitiva, política, electoral o social" con fines ilícitos o que busquen vulnerar los principios democráticos de manera deliberada.
- El escenario Terminator: Queda estrictamente prohibido operar sistemas autónomos "letales" o inteligencias artificiales capaces de causar daño físico grave sin supervisión humana real. Lo mismo aplica para el uso de reconocimiento biométrico o vigilancia masiva sin un sustento legal clarísimo.
La lógica detrás de estas prohibiciones es impecable en el papel. Nadie discutiría que los deepfakes sexuales no consentidos o los sistemas de vigilancia masiva arbitraria son un problema real y urgente. El diablo, como siempre, está en los detalles: quién define dónde termina el uso legítimo de la tecnología y dónde comienza la infracción.
El "Gran Hermano" algorítmico y el riesgo de censura
Para aplicar esta ley, el texto plantea la creación de un ecosistema burocrático de proporciones considerables. Medios especializados como Wired filtraron que se instauraría una Autoridad Nacional de IA, además de una Estrategia Nacional y un Sistema Nacional de Certificación. Aquí es donde el sueño de la ética digital se transforma, para muchos, en una pesadilla de control.
María Solange Maqueo, directora de la Facultad de Derecho de la Universidad La Salle, fue tajante en declaraciones a El Economista: otorgarle a una nueva Autoridad Nacional un poder tan amplio y discrecional es jugar con fuego. La funcionaria de turno podría, básicamente, inventar "nuevos riesgos" fuera de los dictados por la ley, pasando por encima de la Constitución.
La reacción de la sociedad civil fue igual de feroz. La investigadora Mariana Benavides se tomó el trabajo de analizar los 134 artículos del proyecto y su veredicto fue lapidario: "Es un caballo de Troya autoritario". Benavides alerta que los términos son tan ambiguos que la supervisión estatal podría convertirse fácilmente en la herramienta perfecta para la censura gubernamental disfrazada de protección civil.
El riesgo no es hipotético. En democracias con instituciones débiles, las leyes diseñadas para "proteger" a los ciudadanos de las tecnologías de manipulación terminan siendo, con frecuencia asombrosa, las mismas herramientas que los gobiernos usan para silenciar disidentes, periodistas y movimientos de oposición.
El efecto dominó: ¿se acabó el "Lejano Oeste" tecnológico en América Latina?
La movida de México está lejos de ser un exabrupto aislado. Durante años, las corporaciones tecnológicas vieron a América Latina como un terreno dócil para probar herramientas sin tener a un regulador respirándoles en la nuca. Pero esa luna de miel se terminó.
Chile ya pisó el acelerador: su Cámara de Diputados aprobó en general un ambicioso proyecto de ley que pretende convertir al país en el estándar de oro regional, estableciendo reclamos judiciales directos cuando un sistema automatizado vulnere los derechos de un ciudadano. Colombia, a través de MinCiencias, radicó en el Congreso un proyecto que clasifica a la IA según su nivel de peligro —riesgo inaceptable, alto, limitado y mínimo—, con herramientas para castigar la automatización indiscriminada. Brasil lleva meses debatiendo regulaciones enfocadas en prohibir y penar la creación de deep nudes generados por IA, además de exigir auditorías de impacto antes de lanzar cualquier modelo de lenguaje al público.
El Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025 lo dejó por escrito con toda claridad: los gobiernos de la región ya no se conforman con foros de debate, declaraciones éticas vacías o "acuerdos de buena voluntad". Quieren leyes vinculantes, oficinas que vigilen y multas que duelan en la facturación global de las Big Tech.
¿Pueden nuestras instituciones realmente fiscalizar a los gigantes tecnológicos?
Aquí reside el nudo gordiano de todo este debate. Las leyes valen lo que vale la capacidad del Estado para hacerlas cumplir. Y en ese punto, varios analistas son escépticos.
Regular a empresas como OpenAI, Google DeepMind o Anthropic requiere no solo marcos legales sólidos, sino también equipos técnicos que entiendan cómo funcionan los modelos de lenguaje, capacidad presupuestaria para sostener litigios internacionales, y voluntad política de sostener posiciones impopulares frente a gigantes que tienen más abogados que muchos países tienen reguladores.
La Unión Europea —el modelo en que se inspira México— tardó años en construir la infraestructura institucional necesaria para su AI Act, y aún así enfrenta críticas sobre la lentitud en la implementación efectiva. La pregunta no es si América Latina necesita regulación: la necesita. La pregunta es si el camino elegido —normas penales amplias, autoridades con poderes discrecionales, plazos poco realistas— es el más inteligente.
Ante las críticas, el senador Zapata intentó apagar el incendio asegurando que su proyecto "no coarta la libertad de expresión". Sin embargo, el debate fue retirado misteriosamente de la agenda legislativa esta misma semana, dejándolo en suspenso. La pausa no significa abandono: significa recalibración.
Las implicancias para las empresas y los profesionales de la región
Para las empresas que trabajan con IA en Uruguay, Argentina, Chile y el resto de la región, el escenario que se está configurando en México tiene implicancias directas. No porque la ley mexicana vaya a aplicarse más allá de sus fronteras, sino porque marca la dirección hacia la que sopla el viento regulatorio.
Las organizaciones que ya implementan inteligencia artificial en sus procesos —desde chatbots de atención al cliente hasta sistemas de scoring crediticio o moderación de contenido— deberán empezar a documentar sus decisiones de diseño, sus mecanismos de supervisión humana y sus políticas de uso. No como respuesta a una obligación legal inmediata, sino como preparación para un entorno donde esas preguntas van a ser inevitables.
Conclusión: la caja de Pandora ya está abierta
La pregunta que resuena en México, pero que inevitablemente golpeará la puerta de cada país latinoamericano, ya no es si la tecnología necesita barreras. La verdadera duda es si nuestros gobiernos tienen la capacidad real para fiscalizar a estos gigantes, o si estas leyes terminarán siendo armas políticas para controlar el debate digital antes de llegar a ser instrumentos efectivos de protección ciudadana.
El proyecto mexicano, sea aprobado en su forma actual o en una versión modificada, tiene el mérito indiscutible de haber puesto el tema sobre la mesa. Lo que sigue —la negociación, los acuerdos, los equilibrios entre innovación y seguridad, entre libertad de expresión y protección frente al abuso— es el trabajo político más difícil y más necesario.
La caja de Pandora ya se abrió. Y no hay algoritmo capaz de cerrarla.