IA rival de ChatGPT en China censura respuestas relacionadas con Xi Jinping y el COVID
21/05/2023 - Hace 11 meses en InternacionalIA rival de ChatGPT en China censura respuestas relacionadas con Xi Jinping y el COVID
China Ernie, la inteligencia artificial china que busca rivalizar con ChatGPT, ha obtenido su gran momento bajo el reflector. Sin embargo, no se debe a una buena noticia, ya que en sus primeras pruebas demostró tener un sesgo bastante particular hacia el presidente Xi Jinping y la pandemia de COVID-19.
Recientemente, la periodista Eunice Yoon de CNBC tuvo la oportunidad de probar el chatbot desarrollado por Baidu. Ernie, como es conocido, buscaría ser la alternativa a ChatGPT de origen chino. Asimismo, se trata de la primera IA de su tipo en ser creada dentro del gigante asiático, por lo que no tiene poca importancia.
Sin embargo, cuando Yoon probó la IA intentó preguntar acerca del presidente chino, Xi Jinping. Durante la sesión con Ernie, le preguntó si el actual mandatario gobernaría por siempre China. Lo que no esperaba era que el chatbot directamente no respondiera e incluso cerrara la sesión de forma abrupta.
China has what it thinks is an answer to @OpenAI's #ChatGPT…just don't ask it what the relationship is between President Xi Jinping and Winnie the Pooh. @Onlyyoontv explains why: pic.twitter.com/la8mDcrt1H
— Squawk Box (@SquawkCNBC) May 19, 2023
Tras intentar nuevamente tanto en inglés como en chino, la respuesta era la misma: la aplicación dejaba de funcionar o directamente le solicitaba repetir la pregunta nuevamente. Como si esto no bastara, el chatbot tenía un comportamiento similar cuando se le preguntaba sobre la pandemia de COVID-19, especialmente sobre su origen.
El reportaje señala que el funcionamiento tan errático podría tratarse de una medida de censura dentro de la propia IA. Esto no sería sorprendente, ya que la propia internet de China se encuentra completamente controlada y donde la censura no es poco habitual.
Aunque este es un caso aislado de China, nuevamente pone sobre la mesa la discusión respecto a los sesgos presentes en las IA y como estos pueden afectar seriamente la información que reciben los usuarios, especialmente si esta no es contrastada con otras fuentes.
