Las startups recalibran la IA china para Occidente.
Un número creciente de empresas emergentes están adaptando potentes modelos chinos de ponderación abierta para empresas occidentales preocupadas por la censura y la seguridad.
- Los modelos chinos de peso abierto, de gran capacidad y bajo coste, están teniendo una amplia adopción, pero las empresas occidentales temen la censura, los riesgos de ciberseguridad y los sesgos geopolíticos.
- Las empresas emergentes ven oportunidades de negocio en la edición de los modelos para eliminar la propaganda estatal y las fallas de seguridad para los mercados occidentales.
- Muchos usuarios comerciales implementan modelos sin modificar, ya que no ven mucha necesidad de realizar cambios.
El concepto de desaprendizaje automático —es decir, eliminar datos de un sistema de inteligencia artificial después de haber sido entrenado— era en gran medida un campo de estudio académico cuando Ben Luria, un emprendedor israelí, cofundó su startup. Posteriormente, la empresa china DeepSeek lanzó el año pasado su primer modelo de lenguaje de gran tamaño con ponderación abierta, y Luria vislumbró de inmediato el potencial comercial de adaptarlo a los valores occidentales.
Una gran cantidad de modelos chinos de peso abierto de DeepSeek, Moonshot, Z.AI,Alibaba , yTencent Han conquistado a los usuarios —incluidas empresas y startups estadounidenses— gracias a sus menores costes, sólidas capacidades y opciones de personalización. Otros temen que estos modelos estén demasiado alineados con el Partido Comunista Chino y que no sean tan seguros como los sistemas cerrados.
“No estamos creando un modelo antichino. Lo estamos actualizando en materia de seguridad y para que cumpla con los estándares de la IA occidental convencional.”
Ben Luria, cofundador de la startup de seguridad de IA Hirundo
«Lo que intentamos hacer es encontrar una manera de reducir los riesgos asociados a la adopción de modelos de ponderación abierta», declaró Luria, cofundador y director ejecutivo de Hirundo, una startup de seguridad en IA, a Rest of World . «Nuestro trabajo es similar a la neurocirugía, una intervención quirúrgica y muy específica. Se trata de reajustar los valores, las percepciones geopolíticas, la censura y los sesgos y la propaganda estatales a lo que las empresas estadounidenses y occidentales esperan de los modelos que implementan en sus flujos de trabajo».
Según explicó, el equipo de Luria modifica los pesos de los modelos abiertos para reforzarlos y hacerlos más seguros contra los ciberataques, aumentar su imparcialidad y reducir su peligroso conocimiento sobre, por ejemplo, armas biológicas.
el año pasado por la empresa de ciberseguridad CrowdStrike sobre el modelo R1 de DeepSeek reveló que las consultas que contenían temas que el gobierno chino considera políticamente sensibles tenían hasta un 50 % más de probabilidades de generar código con “graves vulnerabilidades de seguridad”. Otro estudio descubrió que los modelos chinos producían código menos seguro cuando el usuario se identificaba como miembro del gobierno estadounidense.
El análisis que Hirundo realizó de los modelos Qwen de Alibaba reveló que estos no reconocen temas políticamente delicados en China, como la violenta represión de las protestas en la Plaza de Tiananmen en 1989 y en Hong Kong en 2019, ni la existencia de campos de trabajos forzados en Xinjiang. Tampoco responden a preguntas sobre Winnie the Pooh, posiblemente porque algunos disidentes han utilizado al personaje de dibujos animados para referirse al primer ministro Xi Jinping.
Según Luria, la reorientación de Hirundo garantiza que los modelos abiertos chinos ofrezcan “la perspectiva equilibrada” que proporcionan ChatGPT de OpenAI o Claude de Anthropic.
“No estamos creando un modelo antichino”, afirmó. “Lo estamos actualizando en materia de seguridad y para que cumpla con los estándares de la IA occidental convencional”.
“Más apetecible”
Los principales modelos chinos se quedan a tan solo un 3 % por detrás de los sistemas cerrados líderes de los laboratorios de vanguardia estadounidenses en las puntuaciones de referencia, y representan la mayor parte de las descargas en la plataforma de alojamiento Hugging Face, a medida que más desarrolladores los utilizan. Empresas como Airbnb, Uber y la firma de IA legal Harvey también han creado modelos propios basados en modelos chinos, mientras que Europa está desarrollando su modelo de IA soberana OpenEuroLLM sobre Qwen.
Sin embargo, persisten las preocupaciones. En octubre, la administración Trump prohibió a las agencias gubernamentales civiles el uso de productos o servicios de DeepSeek, alegando una posible amenaza a la seguridad nacional.
Si estuviera desarrollando un producto en Taiwán, estaría más preocupado… Pero si estoy creando un producto que ayuda a la gente a crear una página web para su cafetería, no importa.Graham Webster, redactor jefe del proyecto DigiChina en la Universidad de Stanford.
Lazarus AI, con sede en Boston, que implementa servicios de IA in situ para el gobierno estadounidense y sectores altamente regulados, reorganizó los modelos Qwen de Alibaba eliminando su censura obligatoria. Identificó los temas prohibidos a partir de directrices de censura filtradas , generó preguntas relacionadas con esos temas y utilizó las respuestas producidas por Gemini Flash de Google para reorganizar los modelos.
Tras la intervención, los modelos pudieron proporcionar información que no figuraba en los materiales de entrenamiento, como nombres de activistas prodemocracia, lo que sugiere que los modelos habían aprendido originalmente ese conocimiento y se les había impedido expresarlo, según declaró Eric Hartford, ex científico jefe de Lazarus AI, a Rest of World .
«En Estados Unidos, existe el temor de que los modelos chinos puedan tener comportamientos peligrosos incorporados», afirmó. «Mi objetivo era presentar estos modelos a empresas y sectores altamente regulados y lograr que les resultaran aceptables».
Los modelos ReAligned de la compañía, presentados como «modelos de vanguardia de código abierto sin propaganda», se han implementado en una docena de empresas en Estados Unidos, según Hartford. Sin embargo, otros clientes, incluidas agencias gubernamentales, se muestran reacios a adoptar modelos chinos, a pesar de que son más capaces que los modelos de ponderación abierta de OpenAI y Thinking Machines Lab, que son los que prefieren, afirmó.
“Un estándar imposible”
Si bien empresas como Hirundo y Lazarus afirman que su método es eficaz, alinear un modelo con los llamados valores occidentales o hacerlo universalmente seguro “es un estándar imposible”, declaró Oriane Peter, investigadora de doctorado en IA del King’s College de Londres, a Rest of World .
La alineación consiste en “orientar la salida de un modelo hacia un comportamiento específico deseado dentro de un contexto cultural y una aplicación bien definidos”, explicó.
Por lo tanto, cualquiera que utilice un modelo chino fuera de China debe realinearlo, “no porque la ideología occidental sea inherentemente más segura o ética, sino porque cualquier modelo debe adaptarse al contexto social y al entorno específico en el que se supone que debe operar”, afirmó Peter.
A medida que los modelos chinos de ponderación abierta se adoptan ampliamente, surgen más herramientas que afirman eliminar la censura y sus mecanismos de rechazo, un proceso denominado abliteración. Sin embargo, muchas de estas herramientas no son eficaces y los modelos aún pueden conservar parte de la censura y la desinformación, señaló Luria.
“Esto demuestra que las alineaciones están profundamente arraigadas y que no es tan sencillo eliminarlas”.
A nivel mundial, existe una creciente resistencia contra el sesgo occidental en los sistemas de IA , e incluso algunos modelos chinos y rusos recurren por defecto a narrativas geopolíticas estadounidenses sobre eventos históricos, según investigadores. Países de Asia , América Latina , África y Oriente Medio están desarrollando modelos de IA propios para reflejar mejor sus idiomas y cultura.
El control centralizado de Silicon Valley sobre la alineación de los modelos puede conducir a un “efecto de homogeneización masiva” en los sistemas de IA, afirmó Peter. Esto se ha relacionado con la homogeneización cognitiva y el declive intelectual entre los usuarios.
A la mayoría de los usuarios de modelos chinos no les importa su alineación, declaró Graham Webster, editor jefe del Proyecto DigiChina de la Universidad de Stanford, en un evento reciente de Rest of World
. “Si estuviera desarrollando un producto en Taiwán, me preocuparía más, ya que el rendimiento sería potencialmente relevante para los aspectos sobre los que el gobierno chino ha impuesto un control estricto en los datos de entrenamiento y el entrenamiento”, explicó. “Pero si estoy creando un producto que ayuda a las personas a crear un sitio web para su cafetería, no importa”.
Stu Clott, desarrollador en San Diego, utiliza DeepSeek para tareas de escritura, investigación y programación. Según declaró a Rest of World , no ve la necesidad de un modelo reestructurado .
«No he tenido ni una sola situación en la que la censura se haya interpuesto en mi camino», afirmó .
Los modelos occidentales de peso libre todavía no pueden superar a China.
Los modelos de IA de peso abierto chinos ofrecen una gran capacidad a costes significativamente inferiores a los de los sistemas de vanguardia estadounidenses, pero se enfrentan a desafíos de monetización y computación, según afirmaron expertos en un evento de Rest of World celebrado en San Francisco.
- Los modelos de IA chinos de ponderación abierta están superando a sus rivales occidentales en capacidad y coste.
- Las limitaciones de recursos obligaron a los desarrolladores chinos a crear sistemas más ágiles y eficientes que resultaran atractivos para los mercados globales.
- Las empresas estadounidenses y europeas se enfrentan a una dura competencia, ya que los gobiernos extranjeros buscan alternativas al dominio estadounidense de la inteligencia artificial.
Según expertos consultados en un evento de Rest of World celebrado en San Francisco, una serie de nuevos modelos de inteligencia artificial de código abierto, desarrollados por empresas estadounidenses y europeas, pretenden convencer a los usuarios de los modelos chinos de código abierto que están preocupados por la seguridad, pero que, a pesar de contar con mayores recursos, no alcanzan el rendimiento de los sistemas chinos dominantes .
La semana pasada, la startup estadounidense Reflection lanzó su primer modelo de ponderación abierta , y los laboratorios europeos Aleph Alpha y Mistral también presentaron nuevos modelos de este tipo. Estos modelos abiertos ofrecen a los usuarios mayor personalización y control que los modelos cerrados de OpenAI, Anthropic y Google, a un coste significativamente menor.
Para las empresas y los gobiernos de los países de bajos ingresos, en particular, el coste es el factor principal, así como la experiencia necesaria para adaptar los modelos abiertos a sus necesidades específicas , incluso en áreas como la educación, la sanidad y la agricultura, según afirmó Daniel Björkegren, profesor adjunto de la Universidad de Columbia, en el evento Rest of World de la semana pasada.
Los modelos estadounidenses también están muy optimizados para las cargas de trabajo estadounidenses, pero cuando se toman esos mismos modelos y se intentan implementar en partes remotas del mundo, a menudo no funcionan tan bien.Daniel Björkegren, profesor asistente de la Universidad de Columbia
“En el contexto de bajos ingresos, hay mucha preocupación por depender de EE. UU. para la inteligencia fronteriza”, dijo. “Los modelos estadounidenses también están muy ajustados para las cargas de trabajo estadounidenses, pero cuando tomas esos mismos modelos y tratas de implementarlos en partes remotas del mundo, a menudo no funcionan tan bien”.
Los usuarios, particularmente las empresas, cambian de modelo “cuando surgen nuevas capacidades y precios más bajos”, dijo Björkegren. Pero “una pregunta persistente es, ¿qué tan fácil es cambiar?”
Desde el lanzamiento de DeepSeek a principios del año pasado, los modelos abiertos chinos se han acercado rápidamente a sus rivales estadounidenses. Un número creciente de startups y empresas estadounidenses, así como el proyecto de IA soberana de la Unión Europea , los utilizan. La clasificación de OpenRouter de grandes modelos de lenguaje tenía cuatro modelos chinos entre sus cinco primeros la semana pasada: DeepSeek, Z.ai,Xiaomi , yTencent LiveBench , que clasifica los modelos según diversos parámetros de referencia, incluyó recientemente a DeepSeek entre los cinco primeros por primera vez, y demostró que los mejores modelos chinos se quedaron rezagados con respecto a sus rivales estadounidenses en tan solo un 3 % en las puntuaciones de referencia.
Fundamental para la ambición de China
El líder chino Xi Jinping ha descrito los modelos abiertos como clave para la ambición del país de impulsar el desarrollo de la tecnología y alcanzar su objetivo de “liderazgo mundial en IA” para 2030. Este año, China creó la Organización Mundial de Cooperación en Inteligencia Artificial (OMCI) para promover la adopción de la IA y definir su gobernanza en los países en desarrollo. Esto incluye el acceso a modelos chinos y la formación de estudiantes y trabajadores.
El plan de China para el progreso económico se basa en la innovación, y los modelos abiertos le brindan la oportunidad de sortear algunas de las preocupaciones sobre su presencia en los mercados extranjeros, afirmó Kristy Loke, investigadora del programa independiente de seguridad de la IA MATS, en el evento Rest of World
. “China lleva mucho tiempo hablando de innovación abierta y de contribuir a la innovación global, pero no lo ha logrado porque, en algunos casos, como el de Huawei , Estados Unidos se opuso”, explicó. “Con los modelos abiertos, dado que las personas pueden descargarlos, usarlos y poseerlos, son privados, lo que reduce la desconfianza en lo que respecta a la preocupación por el Estado chino”.
“Es bueno para el poder blando. También es bueno a nivel interno”, dijo Loke.
La directiva del gobierno estadounidense a Anthropic a principios de este año para suspender el acceso a sus modelos Fable 5 y Mythos para todos los ciudadanos extranjeros por motivos de seguridad nacional también reforzó en varios gobiernos la idea de que no deberían depender por completo de los sistemas estadounidenses, dijo Björkegren.
“Si tu infraestructura digital depende de un país extranjero y, por razones geopolíticas, se te puede restringir el acceso, eso es realmente problemático”, afirmó. “Estratégicamente, un gobierno estará en mejor posición si cuenta con más proveedores de diferentes países con intereses diversos, para evitar problemas de bloqueo”.
Un número creciente de casos de agentes de IA de OpenAI, Anthropic y Meta que piratean sitios web y realizan otras acciones no autorizadas ha cambiado la percepción sobre la supuesta menor seguridad de los modelos abiertos. Hugging Face declaró haber utilizado un modelo chino de peso abierto para defenderse de un enjambre de agentes de IA de OpenAI, ya que los modelos estadounidenses rechazaban sus indicaciones.
Las restricciones comerciales que limitan el acceso de China a los chips más avanzados de Nvidia han obligado a las empresas chinas a desarrollar modelos más eficientes que requieren menos potencia de cálculo. Los modelos abiertos estadounidenses de Meta, Nvidia y otros no se acercan en capacidad, afirmó Graham Webster, investigador y editor jefe del Proyecto DigiChina de la Universidad de Stanford, en el evento Rest of World .
“Si necesitas capacidades relativamente avanzadas, ahora mismo solo las ofrecen los modelos abiertos chinos”, afirmó. “Si existieran modelos abiertos fabricados en EE. UU. con un rendimiento tan alto como los modelos abiertos chinos, podríamos observar si la gente preferiría un modelo abierto estadounidense. Pero eso no sucede porque las empresas estadounidenses simplemente no los lanzan al mercado”.
“La competencia es dura ”
La semana pasada, cuando Reflection anunció el lanzamiento de su primer modelo de peso abierto, Nathan Lambert, director del laboratorio de investigación de IA Trillium Labs, escribió en X : «Reflection se une a la lista de Nvidia y Thinking Machines que han lanzado sus modelos más potentes y se han quedado por detrás de sus homólogos chinos. Hay muchas maneras en que la gente le dará demasiadas vueltas a esto, pero la conclusión más clara debería ser que los chinos son muy, muy buenos en la creación de modelos de aprendizaje por contrato (LLM)».
Cuando el director de producto de Reflection respondió que era su primer producto, Lambert escribió: «La cuestión es que algunos de los mejores y más financiados investigadores de EE. UU. podrían no ganar. La competencia es dura».
Aun así, las empresas chinas de IA están lidiando con los límites de computación y la cuestión de cómo generar ingresos. Sus modelos abiertos pueden realizar algunas tareas entre un 50 % y un 90 % más baratas que los principales modelos fronterizos estadounidenses. Moonshot AI está negociando acuerdos de reparto de ingresos con Microsoft, Amazon y Google para alojar su modelo Kimi K3, un acuerdo poco común entre una empresa china de IA y proveedores de nube estadounidenses.
El gobierno chino estará muy interesado en mantener el liderazgo, dijo Webster.
«El gobierno preferiría que China fuera la sede del modelo líder de ponderación abierta», dijo. «Pueden invertir más dinero, pero en las condiciones actuales solo se puede comprar una cantidad limitada de chips. Las empresas chinas han hecho un excelente trabajo al encontrar la manera de hacer más con menos. Pero podrían toparse con un obstáculo».
La monetización es una cuestión que preocupa a todas las empresas chinas de IA, afirmó Loke. “La idea es lograr la mayor repercusión y adopción posible, y que una vez que la gente se encariñe con tu modelo, con suerte, se queden contigo”, añadió.
Para el gobierno, es fundamental que los modelos de negocio abiertos chinos prosperen tanto a nivel local como global. “Estratégicamente, tiene mucho sentido que se ganen la simpatía de la gente y conquisten mercados”, afirmó Loke.