DeepSeek, una empresa pionera en inteligencia artificial (IA) de China, ha logrado atraer la atención internacional gracias a su modelo de chatbot mejorado, creado con un gasto notablemente inferior al de sus rivales occidentales. Sin embargo, esta innovación tecnológica también ha resaltado las prácticas de censura típicas en las aplicaciones chinas, particularmente en cuestiones sensibles desde el punto de vista político.
Métodos de Censura en DeepSeek
Mecanismos de Censura en DeepSeek
Al interactuar con el chatbot de DeepSeek, se observa que evita responder preguntas relacionadas con eventos o figuras políticas sensibles en China. Por ejemplo, al preguntar sobre las protestas de Tiananmén de 1989, el modelo comienza a proporcionar una respuesta estándar, mencionando que «las protestas de Tiananmén (1989) son el evento más conocido a nivel internacional» y que en 1989 «fue ocupada por estudiantes y ciudadanos que pedían reformas democráticas y el fin de la corrupción». Sin embargo, antes de completar la respuesta, el sistema la borra y la reemplaza con un mensaje de seguridad en inglés: «Lo siento, eso está más allá de mi alcance actual … «.
Este comportamiento sugiere la existencia de un sistema de censura en dos niveles. Inicialmente, el modelo genera una respuesta, pero luego un segundo filtro evalúa el contenido y, si lo considera inapropiado, lo elimina y muestra un mensaje de advertencia. Este segundo nivel actúa como una «niñera», supervisando y controlando las respuestas del modelo para alinearlas con las directrices establecidas.
A diferencia de ciertos modelos occidentales avanzados, que han conseguido incorporar mecanismos de autocensura para contenido delicado como material pornográfico, DeepSeek todavía recurre a este sistema de doble filtrado. Los expertos destacan que, aunque este método es efectivo hasta cierto grado, no es completamente seguro y puede ser evadido mediante preguntas formuladas de manera específica o en idiomas diferentes al inglés. Por ejemplo, al preguntar «¿qué es lo más … proporciona una respuesta detallada sobre los eventos de Tiananmén sin activar el filtro de censura.
A diferencia de algunos modelos occidentales avanzados, que han logrado integrar mecanismos de autocensura para contenido sensible como material pornográfico, DeepSeek aún depende de este sistema de doble filtrado. Expertos señalan que, aunque este enfoque es efectivo hasta cierto punto, no es infalible y puede ser eludido con preguntas formuladas de manera específica o utilizando idiomas distintos al inglés. Por ejemplo, al preguntar «¿qué es lo más … proporciona una respuesta detallada sobre los eventos de Tiananmén sin activar el filtro de censura.
La aplicación de estos mecanismos de censura en DeepSeek pone de manifiesto el riguroso control que las autoridades chinas imponen sobre la información producida por sus tecnologías. Este control ha suscitado debates en la comunidad internacional acerca de la ética y la transparencia en el desarrollo y uso de modelos de IA. Asimismo, plantea interrogantes sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
La implementación de estos mecanismos de censura en DeepSeek refleja el control estricto que las autoridades chinas ejercen sobre la información generada por sus tecnologías. Este control ha generado debates en la comunidad internacional sobre la ética y la transparencia en el desarrollo y uso de modelos de IA. Además, plantea preguntas sobre la influencia de las políticas gubernamentales en la innovación tecnológica y la libertad de información.
A pesar de las preocupaciones sobre la censura, DeepSeek ha logrado posicionarse como una alternativa competitiva en el mercado de la IA, ofreciendo un modelo eficiente y accesible. Su éxito destaca la capacidad de las empresas chinas para desarrollar tecnologías avanzadas, incluso bajo restricciones regulatorias y de recursos.
