¿Y si el problema no fue la trampa ni el "escape"?
Hasta ahí, la nota que todos hemos leído, pero ¿y si el problema no fue la "trampa" o el "escape" del hijo pródigo de OpenAI? ¿Y si el problema radica en cómo reaccionó Hugging Face (la víctima hackeada) ante el descubrimiento de que lo habían hackeado?
Dos aclaraciones para no sobredimensionar la noticia
Sí, que este modelo se haya comportado de esta forma es preocupante, pero hay que explicar dos aspectos importantes para no sobredimensionar la noticia y sobre todo comprender el contexto:
Uno, OpenAI reconoció que los límites o "guardrails" que habrían bloqueado el hackeo y por ende prevenir que el modelo se conecte a internet estaban desactivados para la prueba. Lo cual a nivel técnico atenúa y mucho la alarma. Estos límites / guardrails existen por algo, justamente para poner límites a sistemas autónomos o que en pro de un objetivo establecido siguen trabajando e iterando hasta cumplir el objetivo. Pero esta clase de límites preexisten a la era de la IA, y si existen para algo es justamente para prevenir acciones no deseadas o potencialmente peligrosas. Una empresa como OpenAI comprende de sobra este concepto, si estos límites estaban desactivados no es casualidad en absoluto.
Dos, en una era donde la presión financiera sobre las empresas de IA está en su máximo pico y teniendo vaivenes acelerados, no sorprendería que esta clase de artículos estén motivados por la necesidad de prensa y atención mediática sobre un mercado tan competitivo, donde el próximo lanzamiento de un nuevo modelo por parte de la competencia (léase Anthropic por ejemplo) puede ser motivo suficiente para exagerar que el modelo que tienen entre manos es tan "inteligente" que se les escapa de las manos. No sería la primera vez que una empresa vaticina con dramatismo las implicancias de la salida de su próximo modelo para luego simplemente lanzarlo con la promesa de que lo han hecho más tonto para que no sea un peligro (léase de nuevo Anthropic).
Por qué la víctima terminó defendiéndose con un modelo chino
Entonces, ¿no es para tanto? Sí, sí lo es, pero no por todo lo escrito.
La víctima, la empresa Hugging Face ha reconocido que para contener el hackeo que estaban sufriendo, tuvieron que recurrir a un modelo abierto/open source (a medias) creado en China. ¿Que por qué no usaron modelos de las empresas líderes del mercado? Porque justamente estas empresas tienen restricciones muy fuertes sobre los modelos en términos de capacidades, justamente para prevenir riesgos en ciberseguridad. ¿Y quién ha impuesto estas medidas? Ha sido el propio EEUU el que ha puesto el pie en el freno y exigiendo importantes límites y guardrails a estos modelos. La paradoja no puede ser mayor, occidente intenta protegerse de sus propios modelos, estos se saltan las barreras y son las propias restricciones de Estados Unidos las que no permiten defenderse de los mismos a una empresa. Consecuencia: terminan acudiendo a un modelo de aquel país al que más quieren derrotar o al menos mantener al margen del desarrollo de IA, China.
Lo que sí debería ser noticia
Y esto anterior sí debería ser noticia. Porque en un momento de grandes y rápidos cambios, los vaivenes políticos y de regulaciones burocráticas y estatales, pueden llegar a ser un arma de doble filo en una carrera de innovación vertiginosa entre países con objetivos y agendas muy dispares.