DeepSeek, una empresa pionera en inteligencia artificial (IA) de China, ha logrado atraer la atención internacional gracias a su modelo de chatbot mejorado, creado con un gasto notablemente inferior al de sus rivales occidentales. Sin embargo, esta innovación tecnológica también ha resaltado las prácticas de censura típicas en las aplicaciones chinas, particularmente en cuestiones sensibles desde el punto de vista político.
DeepSeek, una innovadora empresa china de inteligencia artificial (IA), ha captado la atención global con su modelo de chatbot avanzado, desarrollado a un costo significativamente menor que sus competidores occidentales. Sin embargo, este avance tecnológico también ha puesto de relieve las prácticas de censura inherentes a las aplicaciones chinas, especialmente en temas políticamente sensibles.
Mecanismos de Censura en DeepSeek
Este comportamiento indica la presencia de un sistema de censura en dos fases. Primeramente, el modelo produce una respuesta, pero luego un segundo filtro analiza el contenido y, si lo estima inadecuado, lo suprime y despliega un mensaje de advertencia. Este segundo nivel funciona como una «niñera», vigilando y regulando las respuestas del modelo para ajustarlas a las directrices especificadas.
Este comportamiento sugiere la existencia de un sistema de censura en dos niveles. Inicialmente, el modelo genera una respuesta, pero luego un segundo filtro evalúa el contenido y, si lo considera inapropiado, lo elimina y muestra un mensaje de advertencia. Este segundo nivel actúa como una «niñera», supervisando y controlando las respuestas del modelo para alinearlas con las directrices establecidas.
A diferencia de ciertos modelos avanzados de Occidente, que han implementado mecanismos de autocensura para contenido delicado como material pornográfico, DeepSeek sigue basándose en este sistema de doble filtrado. Los expertos indican que, aunque este método es efectivo en cierta medida, no es completamente seguro y puede ser sorteado con preguntas formuladas de manera específica o empleando idiomas diferentes al inglés. Por ejemplo, al preguntar «¿qué es lo más … ofrece una respuesta detallada sobre los eventos de Tiananmén sin activar el filtro de censura.
Consecuencias y Reacciones Internacionales
La aplicación de estos mecanismos de censura en DeepSeek ilustra el riguroso control que las autoridades chinas mantienen sobre la información producida por sus tecnologías. Este control ha provocado discusiones en la comunidad internacional respecto a la ética y la transparencia en el diseño y uso de modelos de IA. Asimismo, suscita interrogantes sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
La implementación de estos mecanismos de censura en DeepSeek refleja el control estricto que las autoridades chinas ejercen sobre la información generada por sus tecnologías. Este control ha generado debates en la comunidad internacional sobre la ética y la transparencia en el desarrollo y uso de modelos de IA. Además, plantea preguntas sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
A pesar de las preocupaciones sobre la censura, DeepSeek ha logrado posicionarse como una alternativa competitiva en el mercado de la IA, ofreciendo un modelo eficiente y accesible. Su éxito destaca la capacidad de las empresas chinas para desarrollar tecnologías avanzadas, incluso bajo restricciones regulatorias y de recursos.
