Cinco meses después de que ChatGPT desencadenara un frenesí de inversión en IA, Beijing se está moviendo para controlar los chatbots de China, una demostración de la determinación del gobierno de mantener un estricto control regulatorio sobre una tecnología que podría definir una era.

La Administración del Ciberespacio de China presentó este mes un borrador de reglas para la llamada inteligencia artificial generativa: los sistemas de software, como el que está detrás de ChatGPT, que pueden formular texto e imágenes en respuesta a las preguntas e indicaciones de los usuarios.

Según las regulaciones, las empresas deben cumplir con las estrictas reglas de censura del Partido Comunista Chino, al igual que los sitios web y las aplicaciones deben evitar publicar material que difame a los líderes chinos o repita la historia prohibida. El contenido de los sistemas de IA deberá reflejar los “valores socialistas fundamentales” y evitar la información que socave la “autoridad estatal” o la unidad nacional.

Las empresas también deberán asegurarse de que sus chatbots creen palabras e imágenes que sean verdaderas y respeten la propiedad intelectual, y deberán registrar sus algoritmos, el cerebro del software detrás de los chatbots, con los reguladores.

Las reglas no son definitivas y los reguladores pueden continuar cambiándolas, pero los expertos dijeron que los ingenieros que construyen servicios de inteligencia artificial en China ya están descubriendo cómo incorporar los decretos en sus productos.

Los gobiernos de todo el mundo han quedado asombrados por el poder de los chatbots, con resultados generados por IA que van desde lo alarmante hasta lo benigno. La inteligencia artificial se ha utilizado para aprobar los exámenes universitarios y crear una foto falsa del Papa Francisco con un abrigo hinchado.

ChatGPT, desarrollado por la empresa estadounidense OpenAI, que cuenta con el respaldo de unos 13.000 millones de dólares de Microsoft, ha impulsado a Silicon Valley a aplicar la tecnología subyacente a nuevos campos como los videojuegos y la publicidad. La firma de capital de riesgo Sequoia Capital estima que las empresas de IA eventualmente podrían producir “billones de dólares” en valor económico.

En China, los inversionistas y empresarios están compitiendo para ponerse al día. Las acciones de las empresas chinas de inteligencia artificial se dispararon. Algunas de las compañías tecnológicas más grandes de China han hecho anuncios impresionantes, incluido recientemente el gigante del comercio electrónico Alibaba; SenseTime, que fabrica software de reconocimiento facial; y el motor de búsqueda Baidu. Al menos dos nuevas empresas que desarrollan alternativas chinas a la tecnología OpenAI han recaudado millones de dólares.

ChatGPT no está disponible en China. Pero frente a un número creciente de alternativas nacionales, China se apresuró a revelar sus líneas rojas de IA, por delante de otros países que aún están considerando cómo regular los chatbots.

Las reglas demuestran el enfoque de regulación de China de “moverse rápido y romper cosas”, dijo Kendra Schaefer, directora de política tecnológica de Trivium China, una firma de consultoría con sede en Beijing.

“Debido a que no tienes un sistema bipartidista en el que ambas partes estén discutiendo, simplemente pueden decir: ‘Está bien, sabemos que tenemos que hacer esto y lo revisaremos más tarde'”, agregó.

Los chatbots están entrenados en grandes franjas de Internet, y los desarrolladores luchan con las inexactitudes y sorpresas de lo que a veces escupen. A primera vista, las reglas de China requieren un nivel de control técnico sobre los chatbots que las empresas tecnológicas chinas no han logrado. Incluso empresas como Microsoft todavía están ajustando sus chatbots para eliminar las respuestas dañinas. China tiene un listón mucho más alto, por lo que algunos chatbots ya están cerrados y otros solo están disponibles para un número limitado de usuarios.

Los expertos están divididos sobre lo difícil que será entrenar los sistemas de IA para que sean coherentes con los hechos. Algunos dudan de que las empresas puedan cumplir con el conjunto de reglas de censura de China, que a menudo son amplias, cambian constantemente e incluso requieren la censura de palabras y fechas específicas, como el 4 de junio de 1989, el día de la masacre de la Plaza de Tiananmen. Otros creen que con el tiempo y con suficiente trabajo, las máquinas pueden alinearse con la verdad y sistemas de valores específicos, incluso políticos.

Los analistas esperan que las reglas sufran cambios después de consultar con las empresas tecnológicas chinas. Los reguladores podrían relajar su aplicación para que las reglas no socaven por completo el desarrollo de la tecnología.

China tiene una larga historia de censura en Internet. En la década de 2000, el país construyó la red más poderosa para transportar información en la web. Esto asustó a empresas occidentales disidentes como Google y Facebook. Contrató a millones de trabajadores para monitorear la actividad de Internet.

Mientras tanto, las empresas tecnológicas chinas que tenían que seguir las reglas prosperaron, desafiando a los críticos occidentales que predijeron que el control político socavaría el crecimiento y la innovación. Con el advenimiento de tecnologías como el reconocimiento facial y los teléfonos celulares, las empresas han ayudado al estado a aprovecharlos para crear un estado de vigilancia.

La ola actual de IA plantea nuevos riesgos para el Partido Comunista, dijo Matt Sheehan, experto en IA china y miembro de Carnegie Endowment for International Peace.

La imprevisibilidad de los chatbots que hacen declaraciones sin sentido o falsas, lo que los investigadores de IA llaman alucinaciones, va en contra de la obsesión del partido por controlar lo que se dice en línea, dijo Sheehan.

“La inteligencia artificial generativa ha puesto a prueba dos de los principales objetivos del partido: el control de la información y el liderazgo en inteligencia artificial”, añadió.

Las nuevas regulaciones de China no son del todo políticas, dijeron los expertos. Por ejemplo, tienen como objetivo proteger la privacidad y la propiedad intelectual de las personas y de los creadores de los datos sobre los que se entrenan los modelos de IA, un tema de importancia mundial.

En febrero, Getty Images, la compañía de bases de datos de imágenes, demandó a la empresa de inteligencia artificial Stable Diffusion por entrenar su sistema de generación de imágenes en 12 millones de fotos con marcas de agua que, según Getty, reducían el valor de sus imágenes.

China está haciendo un esfuerzo más amplio para abordar los problemas legales relacionados con el uso de datos maestros y contenido por parte de las empresas de IA. En marzo, como parte de una importante reforma institucional, Beijing creó la Oficina Nacional de Datos, un intento de definir mejor lo que significa poseer, comprar y vender datos. El organismo gubernamental también ayudará a las empresas a crear los conjuntos de datos necesarios para entrenar dichos modelos.

“Ahora están decidiendo qué tipo de datos patentados son y quién tiene los derechos para usarlos y controlarlos”, dijo Schaefer, quien ha escrito extensamente sobre las regulaciones de IA de China y calificó la iniciativa como “transformadora”.

Aún así, las nuevas vallas de seguridad de China pueden no ser oportunas. El país enfrenta una competencia cada vez mayor y sanciones sobre los semiconductores que amenazan con socavar su competitividad en tecnología, incluida la inteligencia artificial.

Las esperanzas para la IA china aumentaron a principios de febrero cuando Xu Liang, un ingeniero y empresario de IA, lanzó una de las primeras respuestas de China a ChatGPT como una aplicación móvil. La aplicación, ChatYuan, obtuvo más de 10.000 descargas en la primera hora, dijo Xu.

Pronto hubo informes de los medios sobre diferencias significativas entre la línea del partido y las respuestas de ChatYuan. Las respuestas ofrecieron un diagnóstico sombrío de la economía de China y describieron la guerra de Rusia en Ucrania como una “guerra de agresión”, lo que contradice la postura más prorrusa del partido. Días después, las autoridades cerraron la aplicación.

Xu dijo que estaba agregando medidas para crear un bot más “patriótico”. Estos incluyen el filtrado de palabras clave confidenciales y la contratación de más revisores manuales que puedan ayudarlo a señalar las respuestas problemáticas. Incluso entrena un modelo separado que puede detectar “puntos de vista incorrectos” que filtrará.

Aún así, no está claro cuándo el bot del Sr. Xu satisfará a las autoridades. La aplicación originalmente estaba programada para reanudarse el 13 de febrero, según las capturas de pantalla, pero hasta el viernes, todavía no funcionaba.

“El servicio se reanudará después de que se complete la resolución de problemas”, dijo.