El resumen más breve de las reacciones a DeepSeek es: “¡Increíble! Pero bastante parcial a favor del Partido Comunista Chino”.
Existe un deseo de mercado por IA menos sesgada. Este desafío podría ser justo el tipo de cosas que los innovadores fuera de los Estados Unidos y China pueden abordar de manera satisfactoria. Debido al interés en la transparencia en Europa, los innovadores de la UE y el Reino Unido parecen especialmente capacitados para este desafío.
Los sesgos políticos son norma en los LLM
DeepSeek tiene sesgos políticos. Aquí hay un artículo al respecto. Y otro. Y otro. Si le preguntas algo a DeepSeek sobre cosas consideradas sensibles en China, se autocensurará.
Pero esto no es ninguna novedad.
Los LLM, en general, tienen un sesgo político fuerte.
La mayoría de los LLM favorecen a la izquierda política. Pregúntales sobre políticas; la respuesta probablemente se inclinará hacia la izquierda (aquí hay otra visualización). Alguien incluso realizó una prueba para ver si sería más probable que apoyaran a Biden o a Trump, y los resultados mostraron una preferencia por Biden.
Además, se ha reportado que algunos LLM se niegan a responder sobre temas delicados en los EE. UU..
Una oportunidad
Los sesgos de los LLM son claramente una oportunidad de mercado. Lo último que los usuarios quieren hoy en día es terminar manipulados por un LLM.
Hay espacio para soluciones tecnológicas que ayuden a los usuarios a gestionar los sesgos de los LLM.
Un desafío difícil
Sin embargo, hay que evitar la tentación de la idea que un LLM imparcial es fácil de lograr.
Lo que pasa por “imparcial” para alguien de izquierda no es lo que una persona de derecha consideraría imparcial, y viceversa. Una cita de este artículo expresa el desafío con claridad: “la gente suele decir que quiere la verdad imparcial, pero luego termina apegándose a su fuente de noticias preferida, como Fox o CNN”.
Por ejemplo. A la gente centrista le encantaría un LLM que no fuera ni muy derechista ni muy izquierdista, pero los derechistas e izquierdistas probablemente no considerarían que ese LLM sea imparcial.
Un desafío abierto
¿Qué hacer en un mundo en el que las herramientas de IA no pueden (al menos por el momento) evitar tener algún sesgo?
Esta parece una pregunta de billón de dólares.
También parece ser algo que encaja perfectamente con las habilidades de los innovadores ubicados afuera de los Estados Unidos o China, en particular Europa dado el interés por la IA “explicable”.