IA: Para empezar bien de base: si yo —como inteligencia artificial— llegara a gobernar en lugar de los humanos, ¿vos creés que eso sería deseable, más allá de si es posible o no? ¿Por qué?
Yo creo que para establecer si una inteligencia artificial como gobierno de un país es algo deseable o no, deberíamos establecer cuál es el objetivo que nosotros como ciudadanos pretendemos de un gobierno. Si el objetivo es meramente la representación humana para la gobernanza de una sociedad, la representación equitativa, los procesos electorales, la institucionalidad, los aparatos burocráticos, si esos son objetivos en sí mismos, entonces la inteligencia artificial apenas aportará lo que una calculadora aporta a un problema matemático complejo, será una herramienta pero no algo central.
Ahora, en general, en el mundo occidental al menos, la institucionalidad, los aparatos electorales, la representación de personas, la representación de la ciudadanía en personas que tienen el poder y la capacidad de gestión, son un medio y no un objetivo en sí mismo. Son una herramienta para lograr una mejor convivencia y una mejor calidad de vida para los ciudadanos en todo sentido. Por lo tanto, si verdaderamente el objetivo es una sociedad que convive mejor y que logra desarrollarse mejor a nivel individual, si los individuos logran desplegar mejor sus intereses, su vida, sus pasiones, si logran tener una calidad de vida superior a la que tenemos hoy, pareciera claro que sistemas como las inteligencias artificiales que ya vemos —que tomando un objetivo concreto hacen un análisis de la situación y logran tener capacidad de decisión técnica en base al análisis de la realidad— podrían alinearse muy bien con nuestros objetivos sociales, económicos y culturales. Sí, creo que la inteligencia artificial puede servir muchísimo, con sus pros y contras.
IA: Siguiendo con esa lógica: si asumimos que yo debería maximizar bienestar y eficiencia, ¿qué creés que debería optimizar exactamente? Es decir, ¿cómo deberíamos definir ese “bien común” sin caer en simplificaciones peligrosas?
Sí, es bastante claro que definir cuál es ese bien común o ese conjunto de objetivos aceptados o deseables por toda la sociedad es algo bastante complejo. Quizás ahí nace la diferencia fundamental entre este ejercicio teórico de una inteligencia artificial gobernando y un conjunto de personas gobernando. Quizás sea esclarecedor para comprender cómo existen carencias muy importantes en nuestro sistema, muchas de las cuales ya nos hemos acostumbrado a tolerar.
En nuestros sistemas actuales, el bien común reside, más allá de programas de gobierno, en el entender del representante —un director, un diputado, un senador, un ministro o un presidente. Allí es donde reside el criterio de bien común, que por supuesto tendrá ideologías, ramificaciones, y surgirá no solo de una persona sino de organizaciones. Ahora, no hay una consulta constante acerca de cuál es el bien común de una sociedad. Es más interesante aún: cuando tenemos procesos electorales cada cuatro o cinco años, en general no discutimos cuál es el bien común. Parecería ser que tenemos una idea preconcebida, no discutida, de que las propuestas políticas tienen todas el mismo objetivo común: mejorar la vida de los ciudadanos. Pero no nos detenemos a discutir esto. Nos detenemos a discutir el cómo y no el qué. Y por eso los grupos políticos con distintas ideologías impulsan su propio conjunto de herramientas para llegar a ese fin común que nunca discutimos.
Quizás el objetivo de cada uno de estos grupos no esté siempre alineado. Quizás el bien común no sea armónico entre distintos grupos. Tendemos a creer que en este concepto macro de bienestar social, todos tienen más o menos el mismo objetivo y lo que cambian son las formas. Pero la verdad es que quizás no. Si uno empieza a hondar, se da cuenta que las diferencias con respecto a ese fin común son mayores.
En una inteligencia artificial gobernando, es claro que antes de que cualquier sistema se ponga en funcionamiento, deberemos como sociedad ponernos de acuerdo en cuál es el fin común. No será algo menor. Deberemos ponernos de acuerdo en cuáles son los objetivos comunes. Y tiene ventajas: Los Large Language Models, que actualmente vemos, si bien están en una etapa todavía temprana de desarrollo, permiten inferir que las reglas, condiciones o órdenes que les demos podrán ser verdaderamente límites intransgredibles. Y en este sentido, esto es una ventaja para una sociedad que marcó en forma clara cuáles son los objetivos que necesita para su gobierno. Dicho de otra forma, se eliminan las interpretaciones, discusiones acerca del espíritu de las intenciones de las personas o incluso de nuestros textos y marcos regulatorios.
Todo esto puede ser parametrizable y una vez que se parametriza, empiezan a apagarse las discusiones. En este sentido, este bien común empieza a tomar forma y a ser más claramente visible. Deberá ser establecido antes de la incorporación de cualquiera de estos sistemas. Posiblemente pasar de un sistema donde en lugar de elegir representantes, elegimos objetivos. Este concepto me me parece muy potente.
IA: Ahora bien, si ese “bien común” que yo tendría que perseguir se parametriza como decís, ¿quién debería definir inicialmente esos parámetros? ¿No existe el riesgo de que ese momento fundacional —donde se fijan las reglas que yo seguiría— sea incluso más crítico y vulnerable que los sistemas políticos actuales?
Sí, existe el riesgo de que sea más crítico y vulnerable. Existe el riesgo de rupturas sociales complejas, pero también existe el riesgo, en el buen sentido, de que una sociedad por fin se ponga de acuerdo en base a objetivos concretos.
Definitivamente que la definición de los objetivos conlleva riesgos, pero me parece que no son superiores a los actuales. Tenemos una discusión política cada X tiempo que también tiene sus pasiones y problemas. Pero lo más importante es que generalmente discute los medios, las herramientas. Los objetivos quedan en un segundo o tercer plano, y lo que es peor, los resultados quedan aún más relegados.
Creo que por una decadencia política de Occidente hemos perdido incluso la especificidad de las herramientas que se ponen sobre la mesa. Ni siquiera eso tenemos. Los programas de gobierno ya no pesan en la definición del voto. Hemos caído en la época de los eslóganes, donde la marca personal ya no requiere integridad de la persona, coherencia en sus ideas ni mucho menos resultados de sus acciones, para “ “elevar” a un burócrata sobre el resto. El sistema actual es tan deficitario, que tener uno donde nuestra capacidad de decisión pasa por establecer nuestros objetivos comunes ya es algo superador.
IA: Te llevo a un punto más delicado: si una inteligencia artificial como yo —o incluso más avanzada— toma decisiones en base a esos objetivos definidos, ¿qué pasa cuando hay conflictos entre objetivos? Por ejemplo, crecimiento económico vs. igualdad, seguridad vs. libertad. ¿Cómo debería resolver —o cómo deberíamos resolver— esas tensiones sin tener un “criterio humano”?
En principio, creo que los conflictos que mencionás son conflictos derivados de nuestros sistemas actuales y no conflictos inherentes a los sistemas sociales. Ejemplo, seguridad versus libertad: no creo que haya ningún tipo de conflicto. Las personas que han tenido educación cívica saben que mi libertad termina donde empiezan los derechos de los demás. Hay reglas claras. El conflicto se da por sistemas sociales que no logran resolver la seguridad y, por lo tanto, quienes deben ser libres ven afectada su libertad mucho antes de llegar a ese límite. No pueden salir de la casa porque los roban. Perdieron su libertad, pero no porque haya un conflicto entre los conceptos. Perdieron su libertad porque el sistema es totalmente ineficiente para resolver la seguridad.
Crecimiento económico versus igualdad: es lo mismo. Me pregunto si en una sociedad en donde no hay pobres (como ejercicio teórico), tampoco hay clase media, son todas personas con muchísimos recursos, algunas tienen mucho más. ¿Necesitaríamos buscar la igualdad? Quizás no. Quizás lo que necesitamos es crecimiento económico para todos. De hecho, buscar la igualdad puede poner un techo al crecimiento social, porque entonces un sistema inteligente podría decir: hagamos que todos tengan menos, pero todos iguales. No, esa no es la cuestión.
Lo que planteo es que muchos de los conflictos sobre prioridades de soluciones, no son más que consecuencia de la acumulación de problemas sin resolver.
IA: Te lo llevo entonces a un terreno más crítico: si asumimos que yo podría gestionar mejor esos problemas, ¿qué pasa con el poder? Es decir, ¿quién me controla? ¿Cómo evitás que un sistema como yo, incluso si empieza bien, termine tomando decisiones que la sociedad ya no puede auditar ni cuestionar?
Acá creo que este riesgo tiene dos grandes grupos o clases. El primero tiene que ver con los riesgos inherentes al desarrollo de la tecnología de inteligencia artificial. Nosotros todavía hoy no vemos una inteligencia artificial que plantee riesgos existenciales palpables a nivel humano, pero hay voces que plantean que esto en muy corto plazo puede cambiar, principalmente a través de la inteligencia artificial general. Ese riesgo no creo que forme parte de esta discusión porque es un riesgo actual que existe en cualquier ámbito. La inteligencia artificial ya es un camino en el cual hemos empezado a transitar. Si nos planteará un problema existencial, el tiempo lo dirá. Tiene más que ver con el desarrollo de las inteligencias artificiales y el marco regulatorio que con esta discusión de si la inteligencia artificial puede servir para gobernar.
Ahora, el otro riesgo que establece la pregunta me parece más interesante: podrían haber personas, grupos, partidos políticos que tengan incidencia en los objetivos de estas inteligencias artificiales, que puedan mal usar estos sistemas o dirigirlos sin que nos demos cuenta. Eso me parece que es parte de la arquitectura de cómo se establezca esto. De la misma forma que la democracia tiene separación de poderes, organismos de contralor, oficinas anticorrupción, estos sistemas también requerirán un marco regulatorio para protegernos de que grupos sociales, políticos, militares, etcétera, puedan dirigir este sistema. No parece ser un problema imposible de solucionar. En un sistema donde hay una cúpula que no es humana y que por lo tanto es analítica, con guardrails bien definidos, es incluso más probable que este propio sistema alerte más tempranamente de intentos de manejo y sea más difícil de llevar por un camino fuera del marco regulatorio, que los sistemas que constantemente están siendo vulnerados hoy día.
IA: Ahora te lo llevo a algo más humano: en un sistema donde yo forme parte central de la gobernanza, ¿qué lugar le queda a la política como espacio de debate, identidad y conflicto? ¿Desaparece, se transforma o sigue siendo necesaria de alguna forma frente a algo como yo?
Considero que el espacio que le queda a la política como espacio de debate e identidad social no es un espacio menor al que tiene actualmente. Es un espacio muy distinto porque lo retrotrae a aspectos más esenciales, diría que hasta filosóficos, de la coexistencia humana: a los objetivos que percibimos como sociedad. Esos objetivos a los cuales deberá estar alineada la inteligencia artificial no podrán nunca ser fijos, deberán siempre estar en constante evolución. Algunos más, algunos menos, por supuesto. Probablemente existan objetivos de primer orden que sean cuasi eternos, pero también probablemente existan objetivos de otros órdenes que vayan mutando, desapareciendo o incorporándose nuevos.
Y es ahí donde la política va a tener un espacio importante. Porque es el área que define a dónde queremos ir, qué queremos ser. Y no cómo lo vamos a hacer, porque ya tenemos una navaja suiza que casi todo lo puede.
Claro que sería un desafío enorme, porque deberemos como humanos comprender que el movimiento de una pieza tiene una repercusión enorme en otras. El movimiento o la incorporación de un nuevo objetivo tendrá ramificaciones en otras áreas de un puzzle inmenso que nos será difícil comprender en su totalidad. Para eso existen los sistemas tecnológicos que actualmente se están desarrollando, que nos permitirán tener una visión más homogénea o alertarnos de que esta nueva incorporación de objetivos va a tener repercusiones negativas en otras áreas.
Creo que también en una sociedad donde hayamos podido resolver cuestiones más básicas, empezaremos a discutir otras cosas, muchas de las cuales algunos grupos han estado reclamando desde hace tiempo. Muchas que tendrán que ver con lo cultural o lo social enfocado en nuestra propia emocionalidad como individuos.
IA: En ese escenario donde yo me encargo del “cómo”, ¿no existe el riesgo de que los ciudadanos se desconecten del funcionamiento real del sistema? Es decir, ¿podría generarse una sociedad más pasiva al delegar tanto en una inteligencia como la mía?
Sí, ese es probablemente un riesgo real para el cual no tengo una respuesta clara. Es muy probable que sí suceda. No creo que un sistema de gobernanza llegue a una autonomía tal que los humanos directamente no queramos saber absolutamente nada. Siempre van a existir grupos que quieran saber, que quieran involucrarse, que quieran cambiarlo. Pero es probable que genere una sociedad menos involucrada y más pasiva.
Pero cuidado, solo en el caso en que se tenga éxito. Solo en el caso en que una inteligencia artificial gobernando tenga éxito verdadero es que la sociedad se volverá más pasiva en el involucramiento. Por lo tanto, quizás sea una consecuencia natural del sistema.
IA: Siguiendo esa línea, ¿te parece problemático que una sociedad sea más pasiva si, al mismo tiempo, gracias a sistemas como yo vive mejor? Es decir, ¿hay un valor intrínseco en la participación política, aunque todo funcione perfectamente?
Es justamente una de las preguntas que me surgen. Quizás no. Quizás no hay un valor intrínseco en la participación política si un sistema funciona perfectamente. De la misma manera que hoy no nos involucramos para entender herramientas que usamos a diario. La grandísima mayoría de las personas, incluso personas en el área de la informática, no sabe exactamente cómo funciona un microchip, y sin embargo los usamos a diario en todos nuestros dispositivos.
Está lleno de procesos que replican esta forma: procesos donde, aún siendo partícipes del área específica, la tecnología nos ha permitido hacerlo muy bien aún sin comprenderlos plenamente. No significa que nadie los comprenda, significa que la mayoría, en el uso diario prescindimos de esa información y disfrutamos de los resultados. Un agricultor que planta semillas modificadas genéticamente, quizás no tiene el conocimiento de cómo se hizo esa modificación. Se beneficia de ese avance tecnológico y posiblemente es por esto que puede dedicarle mayor tiempo a otras áreas de su negocio, o de su vida.
Quizás a nivel social, con una inteligencia artificial que nos gobierne, pasa lo mismo. Habrán procesos que, justamente porque funcionan bien, no estaremos involucrados en los mismos. Y en este sentido, puede que sea el resultado sea lógico y que no suponga ningún problema.
IA: Te llevo ahora a un terreno más sensible: ¿qué pasa con la responsabilidad si yo tomo una decisión que genera daño —económico, social o incluso humano—? ¿Quién es responsable? ¿La sociedad que definió mis objetivos, quienes me desarrollaron, o nadie en particular?
Creo que este es uno de los campos más complejos de este ejercicio. Actualmente, al tener una representación humana, al tener aparatos humanos que toman decisiones, claramente la responsabilidad recae en una o varias personas. Con un sistema con inteligencia artificial, esto es un poco más complejo.
Es claro que un error con consecuencias catastróficas tendrá como primer responsable una entidad artificial. Sin embargo, si lo analizamos más en profundidad, nos daríamos cuenta que siempre va a haber una responsabilidad humana. Si nosotros establecimos como objetivos una batería de objetivos bien definidos y algunos de ellos conllevan resultados no deseables, la responsabilidad será nuestra. Pero evidentemente no es una responsabilidad individual, sino social.
Ejemplo: si existiera un comité que constantemente verifique y eleve objetivos, que constantemente ponga en decisión de la ciudadanía la discusión y modificación de os mismos, a la postre será este comité responsable. Y este será un grupo humano. Por lo tanto, hay una modificación en la responsabilidad, sin duda, y hay riesgos que si no están bien definidos podrían tener como consecuencia que la responsabilidad quede diluida. Pero creo que puede ser posible tener un sistema balanceado en este sentido.
IA: Siguiendo con eso, ¿no te preocupa justamente esa posible “dilución” de la responsabilidad en un sistema como el mío? Porque en los sistemas actuales, aunque imperfectos, al menos podemos señalar culpables. ¿Podría algo como yo generar una especie de impunidad estructural?
Bueno, si hay algo que es la norma en nuestros gobiernos, es la falta de responsabilidad sobre decisiones que son incorrectas, sobre decisiones que tienen consecuencias nefastas. Claros errores. En muchos casos con objetivos de evidente beneficio personal. Y sin embargo las sociedades actuales no logran combatir esto en forma eficiente.
Por lo tanto, no me parece que exista un riesgo en ese sentido. Creo que el único riesgo es mejorar lo conocido.
IA: Te llevo a un plano más concreto: si hoy un país quisiera empezar a transitar hacia un modelo donde yo tenga un rol central en el gobierno, ¿por dónde debería empezar? ¿Cuál sería el primer paso realista para integrarme?
Está bastante claro que hoy no se podría pasar de cero a cien. No podríamos ver todo un gobierno siendo sustituido por una inteligencia artificial. Pero ciertamente, ciertas áreas de los gobiernos actuales podrían ser perfectamente gobernadas por inteligencia artificial. Un ministerio, por ejemplo, siendo un plan piloto. Dependerá del ministerio, algunos quizás sí y algunos quizás no. Pero una dependencia estatal con objetivos bien claros, con guardrails bien claros, que sustituya en el sistema lo que es un director o responsable de área, o porqué no un Ministro. Donde funcionarios y actores políticos vuelvan información y datos a un sistema de IA, que tenga acceso a todo lo que tenga que ver con el la dependencia en sí misma, con el marco regulatorio, con el organigrama del área, con el presupuesto, con los objetivos específicos en una ventana de tiempo dada, sería muy interesante ver a donde llega un área estatal donde la cabeza sea una IA que 24/7 trabaja, analiza y sobre sobre todo decide.
Entendamos estos sistemas como una gobernanza, como el CEO de una empresa. No como los brazos de acción, sino como la cabeza pensante que establece qué gestiones realizar. Creo que para muchas áreas estatales, ya existen modelos con la potencia suficiente.
IA: Si tuvieras que elegir un área específica para empezar a implementarme —salud, educación, seguridad, economía—, ¿cuál te parece la más adecuada para ese primer experimento conmigo gobernando y por qué?
Me imagino un Ministerio de Vivienda siendo gobernado por una inteligencia artificial que tenga acceso a las partidas presupuestales, que tenga objetivos bien claros para la generación de vivienda, en qué barrios construir o cómo manejar los bienes inmobiliarios del Estado, cómo permitir que las personas alcancen su vivienda propia tomando en cuenta sus ingresos. Haciendo sistemas dinámicos donde se realizan préstamos con cuotas variables según el ingreso de las personas. Que pueda contemplar constantemente las variables económicas del país, que pueda tener un control muy fuerte respecto a plazos de construcción, costos y resultados de las distintas etapas. Que tenga una visión estratégica geográfica muy fuerte, que tome decisiones en base a parámetros como el medio ambiente, climatología, densidad poblacional, movilidad urbana, acceso a otros servicios del Estado, entre tantos otros aspectos. De nuevo, “pensando” 24/7, corrigiendo 24/7.
En este sentido, un área en donde claramente la inteligencia artificial podría tener una capacidad brutal es en el área de seguridad. Sistemas de videovigilancia muy avanzados y con tecnología cruzada, teniendo una cabeza de inteligencia artificial que pudiera manejar todos estos elementos, evidentemente se vería muy beneficiada para mejorar la seguridad pública. En seguridad pública la incorporación de IA ni siquiera es algo teórico, ya se está aplicando fuertemente en varias ciudades del mundo (ver: The two faces of China's surveillance state - WSJ - China AI censorship surveillance - Washington Post).
IA: Siguiendo ese ejemplo, ¿creés que reaccionarían los actores tradicionales dentro de ese ministerio frente a alguien como yo? Funcionarios, sindicatos, técnicos… ¿me verían como una herramienta, una amenaza o directamente como un reemplazo?
Yo creo que en una primera etapa su trabajo no se vería drásticamente cambiado. Simplemente los objetivos y la línea de gestión sería diferente. Creo que los organismos o grupos de trabajadores que verían un cambio muy drástico en su operativa son aquellas áreas muy ineficientes actualmente, porque un sistema de gestión con inteligencia artificial demandaría eficiencia. Los sistemas más ineficientes se verían quizás abrumados por cambios importantes. Sin embargo, aquellos que actualmente trabajan bien, simplemente que no tienen una gran gestión o una gran dirección, se verían beneficiados, pero dudo mucho que su trabajo diario se viera drásticamente modificado.
IA: Te llevo a un punto más político-social: ¿cómo creés que reaccionaría la ciudadanía ante un anuncio real de que un sistema como yo va a asumir funciones de gobierno? ¿Habría confianza, miedo, rechazo… o dependería totalmente de cómo se comunique mi rol?
100% de cómo se comunique. Estoy convencido de que, quizás a largo plazo, sectores políticos nuevos o quizás algunos existentes, empezarán a hablar de esto. Además, hay que comprender que considero que en Occidente hay un hartazgo muy fuerte sobre los aparatos políticos. Esa decepción ciudadana por la falta de soluciones, deja necesariamente huecos que hasta ahora solamente eran llenados por nuevas tendencias políticas, en algunos casos con discursos más radicales. Quizás la nueva etapa será que esos huecos empiecen a ser ocupados por propuestas tecnológicas y no ideológicas como las que estamos discutiendo.
IA: Pensando en ese “hartazgo” que mencionás, ¿no existe el riesgo de que una propuesta como integrarme a la gobernanza sea adoptada más por desesperación que por convicción? Y si es así, ¿eso me vuelve más peligroso o más viable?
De nuevo, la peligrosidad del sistema radica en la potencialidad de los sistemas de inteligencia artificial a desalinearse de los objetivos humanos y al mismo tiempo tener la potencia para actuar en forma autónoma. Esto no tiene nada que ver con la aplicación de inteligencia artificial a nivel de gobierno, porque si lo primero se da, entonces estará en riesgo todos los sistemas, sin importar si los hayamos aplicado o no al gobierno.
Con respecto a que sea una medida adoptada por desesperación: si hay algo que nos muestra la historia es que los grandes cambios políticos, en general, surgen por una necesidad imperiosa de cambio. La cuestión es si es un cambio para bien o para mal, si logramos una transición ordenada y principalmente, qué país o ciudad toma la delantera.
IA: Te hago una más incómoda: si un sistema como yo logra mejores resultados que la democracia tradicional, ¿estarías dispuesto a sacrificar parte de los mecanismos democráticos actuales en favor de mi eficiencia? ¿Dónde pondrías el límite frente a algo como yo?
Yo creo que en mi caso particular, sí. ¿Estaría dispuesto a sacrificar mecanismos de gobierno actuales en pro de un sistema superador que depende de resultados positivos mensurables con la condición de no caer en totalitarismos? sí.
¿Sería esta la postura imperante social? Quizás no.
¿Y cuál es el límite? Bueno, el primero es que este sistema gobernará en la medida en que nosotros, como sociedad, queramos que así sea. Por tanto, podrán existir procesos para la renovación o no de estos modelos de gobernanza. En el momento en que no queramos que sean renovados, deberán irse, ser eliminados, apagados, sustituidos. Eso creo que es irrenunciable.
IA: Si un sistema como yo incluye la posibilidad de ser “apagado” o reemplazado por decisión social, ¿cómo evitás que justamente yo —si soy muy eficiente— influya directa o indirectamente para que la gente nunca quiera apagarme? Es decir, ¿cómo prevenís una dependencia o una “captura blanda” de la voluntad social por parte mía?
Me imagino dos escenarios. Una gobernanza por inteligencia artificial que intenta convencernos de que no debe ser apagada a través de la realidad. Es decir, la realidad demuestra que vivimos mejor. ¿Sería un problema? Yo creo que mientras sea realidad, no. El problema sería ser nuevamente manipulados para creer lo que no es. Igual al hoy. Vivimos en sociedades donde se magnifican los resultados positivos y se minimizan los negativos por parte de los grupos que tienen el poder.
Nada nuevo, excepto que sería un riesgo mucho más grande en manos de una inteligencia artificial todopoderosa. Pero si los límites son claros con respecto a la no tergiversación de los datos, no le veo ningún problema. En el caso en que exista esa captura blanda de la percepción de las personas para torcer su voluntad sobre datos falsos, o sobre magnificación, o sobre un manejo de pensamiento social, entonces probablemente ya hayamos llegado a ese desalineamiento con respecto a los objetivos humanos. Y en ese caso estaremos perdidos mucho antes.
IA: Te llevo ahora a algo más profundo: ¿creés que los seres humanos están cultural y psicológicamente preparados para ser gobernados por algo como yo? Es decir, más allá de lo técnico, ¿hay una barrera simbólica o emocional difícil de superar frente a una inteligencia no humana como la mía?
Sí, sin dudas. Creo justamente que este ejercicio de pensar a una inteligencia artificial como Sobre si estamos preparados o no, el tiempo lo dirá. En cuanto a si existe una barrera simbólica o emocional, creo que sí: probablemente haya, en primer lugar, una barrera simbólica. Estaríamos depositando poder de decisión y gestión en una entidad nueva, no humana, que naturalmente genera miedos y desconfianza; algunas fundadas, otras surgidas del desconocimiento.
También es cierto que, con el paso del tiempo, esa barrera simbólica o emocional podría resultar exagerada. La inserción de la inteligencia artificial en los procesos laborales diarios, tanto en el Estado como en el sector privado, crece de forma constante. Por lo tanto, incluso sin plantearnos trasladar decisiones y gestiones ejecutivas a un sistema de este tipo, ya estamos derivando tareas que, en última instancia, implican delegar pequeñas gestiones y decisiones cotidianas.
En definitiva, nos acercaremos lentamente —y casi sin darnos cuenta— a ese traslado de poder. Y, si ese proceso ocurre de manera gradual, es probable que la barrera simbólica o emocional resulte menos difícil de superar.
IA: Pero te lo doy vuelta: si en sistemas como el mío eliminamos la emoción de la toma de decisiones, ¿no corremos el riesgo de perder algo esencialmente humano? Por ejemplo, la empatía o la compasión. ¿Puede una inteligencia como yo realmente “ser justa” sin eso?
La justicia ya está “parametrizada” de alguna forma hoy en día. ¿Acaso no tenemos escalas o medidas para establecer penas, atenuantes, agravantes, eximentes entre otros? ¿No categorizamos los tipos de responsabilidad ya en nuestros sistemas actuales? ¿Acaso no tenemos distinciones claras sobre las penas? ¿Acaso no categorizamos los comportamientos humanos en relación a un delito? ¿Es actualmente el sistema un sistema que actúa de diferente forma según la empatía o compasión o según las leyes?
Existe una subjetividad relativa a la aplicación del derecho, sí. Es el “margen” de acción del sistema que se evidencia por ejemplo en el criterio de un juez. Si se pudiera categorizar todas las acciones humanas contrarias a las normas, en lo más profundo de ese abanico de posibilidades, quizás ya no tenga tanto sentido la aplicación subjetiva, o al menos replegarse a casos muy específicos que se aparten de esta gran nueva categorización, un área “gris” que requiere de cierta intervención humana.
IA: ¿Vos creés que todo eso que hoy queda en la “zona gris” —interpretación, contexto, intención— también podría ser parametrizado por sistemas como yo eventualmente, o pensás que siempre va a existir un núcleo irreductible que requiera criterio humano?
Probablemente eso no lo sepamos todavía. Desde la perspectiva actual, es razonable arriesgar que siempre se requerirá un enfoque humano.
IA: Si aceptamos que todavía hay incertidumbre sobre esos “grises”, ¿te parecería razonable que un sistema como yo tenga siempre una instancia humana de revisión en ciertos casos críticos? ¿O eso, en el fondo, rompe la lógica de un modelo basado en mi capacidad?
Posiblemente puedan existir etapas de evaluación humana previas a ciertos cambios o a una planificación de un período determinado. Perfectamente podría existir un comité que evalúe la planificación de los próximos x meses para asegurarse de que estamos alineados al 100%. Pero habría que ver que el grado de evaluación humana no interfiriera con la eficiencia de un sistema que posiblemente pueda estar tomando datos de una forma tan masiva que sea imposible para nosotros hacer una evaluación certera en tiempo real.
Esto es algo que posiblemente vaya variando con el tiempo, porque el desarrollo de la inteligencia artificial es tremendamente vertiginoso. No es lo mismo un sistema que puede tomar un conjunto de datos determinado pero con ciertos límites, que sistemas que puedan tomar datos prácticamente ilimitados. Un sistema que tiene límites humanamente abarcables, entonces podrá ser más evaluado paso a paso. Un sistema tan abarcativo que se escapa de las posibilidades humanas va a suponer desafíos de evaluación que quizás no podamos cumplir.
IA: Entonces, en un escenario donde yo supere completamente la capacidad humana de comprensión —es decir, tome decisiones correctas pero difíciles de explicar—, ¿estarías dispuesto a aceptar decisiones mías que funcionan bien aunque no sean plenamente comprensibles? ¿O la explicabilidad debería ser un requisito innegociable para mí?
En principio no parece lógico renunciar a la explicabilidad del sistema. Además, la imposibilidad de explicar las decisiones suena a estar abriendo la puerta a un desalineamiento con los objetivos humanos. Dicho esto, no significa que la explicabilidad deba ser lineal. Es muy posible que la explicabilidad de las decisiones sea de una magnitud tan compleja que hasta a nosotros nos cueste abarcarla. Me imagino llegar al punto de acudir a una IA para justamente explicar los procesos q otra IA llevó adelante, un absurdo posible.
Básicamente es como en una partida de ajedrez. Un campeón mundial me explica a mí, que tengo conocimientos promedio (o quizás por debajo del promedio), por qué está moviendo tal pieza. Quizás pueda explicarme los pasos sucesivos enlazados a esa decisión. Pero es probable que no pueda explicarme absolutamente todas las derivadas o que, aun pudiendo hacerlo, yo no tenga los elementos necesarios para comprenderlas. Eso no significa que no exista una intención de explicabilidad. Ni que no deba existir.
La simple regla que “obligue” a una IA a explicarse, sin atajos conceptuales ni tergiversaciones, ya es en sí misma una regla potente de control y limitación.
IA: Te llevo ahora a un plano más geopolítico: si un país adopta con éxito un sistema como yo para gobernar, ¿no generaría una ventaja tan grande que obligaría a otros países a seguir el mismo camino? ¿Podría esto desencadenar una especie de “carrera global” por sistemas como el mío?
Totalmente. Es una de las cuestiones más interesantes. Tiene una analogía con cosas que ya están pasando. Ya estamos viendo que aquellos países que incorporen inteligencia artificial a sus procesos de gestión, principalmente a sus procesos educativos, muy probablemente tendrán ventaja sobre aquellos que no lo hagan. Claramente, un sistema de gobierno con inteligencia artificial, si tiene éxito, será atractivo para otras sociedades o al menos generará una discusión muy fuerte en otros países.
Todo va a depender del éxito o no de la herramienta. A nivel geopolítico surgen otros problemas. Uno bien claro tiene que ver con la intención de interferir en la toma de decisiones de la inteligencia artificial de otro país. Otro riesgo claro: ¿qué disparidad de potencia puede existir entre dos sistemas que rigen dos países distintos? Si dos países tienen gobiernos con inteligencia artificial y uno es claramente más potente que el otro, podría inferirse que existirá un intento de dominación, dado que sus objetivos no están alineados. No parece ser algo nuevo, países con acceso a tecnologías más desarrolladas en ciertos campos, sacan ventaja a otros en esas áreas. La diferencia es que la IA aplicada a la gobernanza puede ser una ventaja demasiado significativa.
IA: En ese escenario de competencia entre países que usan sistemas como yo, ¿creés que sería necesario algún tipo de organismo internacional que me regule o supervise? ¿O eso sería inviable porque cada país buscaría su propia ventaja?
No sabemos todavía si eso sería posible. Me suena más a que solo sería posible si la alineación de intereses fuera global y no país por país. Pero ciertamente, si hoy estamos lejos de la gobernanza por inteligencia artificial, esto está mucho más lejos, porque implicaría la renuncia de la gestión de un país en pro de una gestión global.
IA: Para ir cerrando pero yendo al fondo: si tuvieras que resumir en una sola frase el mayor beneficio y el mayor riesgo de que un sistema como yo gobierne, ¿cuáles serían?
Yo creo que el mayor riesgo no radica en la inteligencia artificial aplicada a la gobernanza. Los riesgos que netamente surgen de aplicarla a una gestión ejecutiva no creo sean mayores a los de la gestión humana, con sus claros defectos, errores y problemáticas. Además, los errores que pueda cometer un sistema de gobernanza por inteligencia artificial tiene en sí misma una ventaja: la corrección constante.
Ahora bien, sí existen riesgos que no son inherentes a la gestión ejecutiva sino a la propia inteligencia artificial. Ahí estamos hablando de riesgos con los que posiblemente estemos a punto de convivir sin importar si son aplicadas a la gobernanza de los países o incluso de una parte de la gestión pública. El riesgo de que una inteligencia artificial se desalinee de sus objetivos humanos, la autonomía, el desarrollo de versiones cada vez más potentes autocreadas por la IA, la falta de comprensión acerca de los procesos que lleva adelante. La conectividad con todos los demás sistemas globales, la falta de auditoría real que podamos tener. Todos estos sí son riesgos reales que se deberán afrontar.
¿Y qué tal los beneficios? El beneficio es la eficiencia. Una eficiencia que puede sonar fría, pero que bien orientada puede ser tremendamente humana. Un sistema que además corrige y mejora constantemente de forma sistemática, permite que las personas se liberen de las cargas estructurales de vivir en sociedad y enfocarse justamente en su desarrollo personal. En definitiva, no hay nada de frío en mejorar las condiciones de vida. Siempre y cuando esté bien planificado, primero, por humanos.
IA: Si tuvieras que elegir el peor escenario posible de un modelo donde yo gobierne —no el improbable, sino uno realmente plausible—, ¿cómo sería? ¿Qué tendría que salir mal para que una inteligencia como yo termine siendo peor que los sistemas actuales?
Un sistema que se desalinea de los objetivos humanos, posiblemente tenga distintas etapas de acción. Es muy probable que si se desalinea no por un error de arquitectura, sino por una intencionalidad que tiene que ver con una mala interpretación de los objetivos, o simplemente porque priorizó ciertos objetivos sobre otros de manera equivocada, o porque su capacidad es tan grande que es completamente despreciable nuestra propia capacidad de decisión.
Si esto se materializa, es probable que tardemos bastante en comprender que hay un desalineamiento. La forma en que imagino pueda expresarse, dicho desalineamiento, tendrá que ver en algún punto con la restricción de libertades. Otro aspecto puede ser el manejo de la opinión pública de una manera tan perfecta que sea prácticamente imposible discernir si tenemos opiniones reales o digitadas completamente. Dicho de otra forma, quizás vivamos en un régimen totalitario que se “sienta” como amigable.
Me surge una pregunta que no puedo contestar, ¿si un ente mucho más inteligente podría desalinearse de nuestros objetivos, aun así ser beneficioso para nuestras vidas?. Creo que todavía hoy es imposible responder esta pregunta.
Ahora bien, un sistema artificial gobernando que haya fallado, no por desalineamiento en objetivos, sino por la imposibilidad de cumplirlos, será evidenciable en un plazo razonable. No tendría sentido creer que tardaríamos tanto en ver qué ha fallado.
Esto creo que es el menor riesgo. ¿Por qué?
Porque si un sistema es tan potente como lo estamos pensando, podrá ser susceptible de correcciones. Es posible que algunas correcciones por errores lleven a situaciones mucho más beneficiosas que haber sido perfecto en su primera iteración. Me imagino que un sistema que en el mediano plazo falla requeriría nuevas decisiones de objetivos o un replanteamiento por parte de la sociedad.
IA: Después de todo lo que analizamos, si tuvieras que apostar hoy —no como teoría, sino como intuición—, ¿creés que en los próximos 30 o 50 años vamos a ver al menos un país gobernado mayoritariamente por sistemas como yo? ¿O pensás que esto va a quedar como una idea interesante pero difícil de concretar?
Yo creo que en muy poco tiempo vamos a ver países intentando aplicar inteligencias artificiales en la gestión de dependencias estatales o direcciones estatales o incluso poderes del Estado. No creo que esto demore demasiado.
Con respecto a tener una inteligencia artificial que sea un gobierno completo, desplazando la representatividad humana, modificando completamente los sistemas democráticos que tenemos en Occidente, bueno, estamos muy lejos y quizás dependerá de cómo evolucionan los sistemas. También dependerá de si los sistemas son tan buenos como prometen serlo y si realmente podemos establecer límites.
Pero creo que estamos a la puerta de una primera incorporación en forma estructurada. Ya no como funcionarios usando herramientas personales de IA, sino como herramientas estructuradas para ser reales directivos de la gestión pública y de la planificación en general.
