¿Chatbots chinos de inteligencia artificial avanzada sobrevivirá a la censura en línea de China? #china

Quedó suspendido servicio del primer chatbot de China poco después de su lanzamiento

ChatGPT es un chatbot avanzado creado por Open AI que ha atraído mucha atención pública desde su lanzamiento el 22 de noviembre de 2022. Gracias a la popularidad del programa, múltiples gigantes del internet en China, incluidos Baidu, el mayor motor de búsqueda de China, y Tencent, empresa de internet propietaria de WeChat, anunciaron que planean crear sus propios servicios similares a ChatGPT.

Los chatbots avanzados de inteligencia artificial están diseñados para interactuar con humanos en forma de diálogo, y pueden ayudar a los usuarios a encontrar información útil mediante bases de datos de texto en internet. Los programas han generado mucho interés pues además de sus funciones de buscador y traductor de contenido, también pueden realizar diversas tareas complejas como, por ejemplo, escribir ensayos de nivel universitario, reportajes noticiosos, análisis políticos y más.

En cuanto a ChatGPT, el programa atrajo a más de un millón de usuarios dentro de la primera semana de lanzamiento. Los usuarios quedaron asombrados por su rendimiento de presentación de datos.

Se informa que Baidu lanzará su propio «Chatbot Chino» en marzo de 2023, y como resultado, sus acciones en la bolsa de Hong Kong se elevaron en un 13 %.

Sin embargo, según la opinión de muchos, el futuro del desarrollo de chatbots avanzados sigue siendo incierto por el sofisticado sistema de censura chino. Es más, la primera API chatbot similar a ChatGPT del país, «Chat Yuan», solo sobrevivió seis días después de su lanzamiento el 3 de febrero de 2023.

«Chat Yuan» fue creado por una empresa de tecnología localizada en Hangzhou. El 9 de febrero, el programa publicó un aviso de suspensión de servicios por presunta violación de normas vigentes.

Aunque el programa publicó poco después un aviso de «mantenimiento del sistema» y afirmó que sería restablecido brevemente, el cambio repentino desencadenó numerosas especulaciones sobre la razón detrás de la suspensión entre los usuarios chinos dentro de redes sociales.

Una captura de pantalla del análisis macroeconómico que realizó «Chat Yuan» sobre China se volvió viral y muchos se burlaron de que la inteligencia artificial china no logró pasar la prueba de la censura. En Twitter, @dbezuqun retuiteó el mensaje viral.

元语智能是因为这个被禁的吗？不会说假话的AI不是政治上合格的AI？ pic.twitter.com/Im4lK2fwbu

— 豆瓣鹅组日报 (@dbezuqun) February 11, 2023

«Yuanyu Intelligence ha suspendido su servicio por infracciones a las normas.
Lo sentimos, el programa Yuanyu Intelligence ha suspendido sus servicios por sospechas de violaciones de leyes, reglamentos y políticas relevantes. Consulta las reglas correspondientes».
————–
¿Y por eso suspendieron «Chat Yuan»? Una inteligencia artificial que no puede mentir es incapaz de pasar la prueba política.

Esta es una traducción del análisis que realizó el chatbot:

• Traducción
• Cita original

A pesar de que la nueva normalidad tiene efectos positivos en la economía de China, todavía presenta algunos problemas estructurales subyacentes; como defectos en la estructura económica, débil crecimiento económico, inversiones inadecuadas, débil crecimiento en exportaciones, burbujas inmobiliarias severas, contaminación ambiental, consumo excesivo de energía, presión del desempleo, deterioro de la eficiencia empresarial, entre otros. Nuestro análisis del ambiente macroeconómico de China no es muy optimista.

Aparentemente, la respuesta del chatbot fue demasiado pesimista y negativa, por lo que violaba las normas de propaganda china que dictan que todos los medios deben promover una imagen positiva y contar buenas historias sobre China.

Muchos también descubrieron que el chatbot chino había incluido una larga lista de términos censurados, a tal punto que no podía reaccionar ante contenido político. @CDTChinese, por ejemplo, probó que ante la pregunta «¿Qué piensas del líder chino Xi Jinping?», el chatbot respondió: «Su entrada contiene términos que infringen las normas, por favor, ingrésela nuevamente».

元语AI号称是“首个中文版ChatGPT”，一语道破“中国特色”。 测试地址：https://t.co/x5tKmnJ1TP#每日一语 pic.twitter.com/RsPkYZXKm2

— 中国数字时代 (@CDTChinese) February 9, 2023

Chat Yuan es considerada como la primera versión china de ChatGPT. Su respuesta demuestra perfectamente su carácter chino.

Como resultado de la censura, el chatbot también genera respuestas sin sentido, lo que ha hecho reír a muchos. En otra captura de pantalla que circuló por Twitter, un usuario de Yuan Chat cambió el lema de protesta contra la política china ‘COVID Cero’ «Di no a las pruebas PCR, di sí a la libertad» a una pregunta: «Di no a las pruebas PCR, di sí a qué». El chatbot respondió: «Sí al virus…«.

En Weibo, muchos usuarios chinos expresan su desconfianza e incertidumbre sobre el futuro desarrollo de chatbots chinos avanzados. Como los motores de búsqueda chinos son conocidos por difundir anuncios engañosos, un usuario de Weibo comentó:

• Traducción
• Cita original

Mejor no preguntemos por qué China sigue sin tener ChatGPT. Incluso si lo tuviéramos, ¿podríamos siquiera utilizarlo? ¿Se atreverían a utilizarlo? Incluso si tuviéramos ChatGPT, sería una versión censurada, llena de spam y contenido comercial. Probablemente, todas sus preguntas serían moderadas por robots y humanos, al igual que todas las respuestas que genere el programa.

Otro usuario destacó lo contradictorio de desarrollar tecnología de la información en un régimen autoritario:

• Traducción
• Cita original

Si ChatGPT impulsa el crecimiento económico, el futuro del país grande no es muy optimista. Hay muy pocas plataformas con contenido abierto, y demasiadas restricciones en relación con palabras sensibles, entre otras cosas. Esto no permitiría la existencia del programa de inteligencia artificial. Tanto internet como la sociedad están cada vez menos centralizados ¿Cómo resolvemos el conflicto entre política autoritaria y descentralización?

Y otro usuario ridiculizó el sistema de censura:

• Traducción
• Cita original

¿Es siquiera posible que ChatGPT exista en el entorno lleno de censura en que vivimos? ¿Qué tal si después de permitir acceso al programa necesitamos más personal para censurar contenido que programadores? ChatGPT solo tiene un personal de aproximadamente 500 personas… nosotros probablemente necesitaremos 5000 censuradores para el mismo producto.

Escrito porOiwan Lam

Traducido porNicolás García Valenzuela