La personalización es una tendencia en los chatbots de IA como ChatGPT y Gemini, pero después de probarla, encontré que causa más problemas que beneficios.
Aquí te cuento por qué:
1. Tienden a Dar Respuestas Parciales
La IA personalizada intenta alinearse con tus preferencias y rara vez desafía tus opiniones.
Por ejemplo, Gemini posicionó Pop!_OS como la mejor distro de Linux para juegos porque sabe que la uso, mientras que sin personalización ubicó a Nobara Project en primer lugar, que es una opción mejor.
Este sesgo limita el descubrimiento y refuerza la confirmación de tus propias creencias.
2. La Personalización Aumenta las Alucinaciones de la IA
Los chatbots a menudo inventan información incorrecta (“alucinaciones”). Cuando están personalizados, forzan conexiones entre tu perfil y preguntas no relacionadas, lo que lleva a respuestas falsas o engañosas.
Por ejemplo, pregunté sobre mensajes Android en un dispositivo dual-SIM, y Gemini me dio instrucciones específicas para Linux porque relacionó la consulta con mi uso de Linux.
3. Me Obliga a Aclarar Preguntas Simples
Normalmente, la IA adivina el contexto correctamente sin pedir más detalles. Con la personalización activada, intenta relacionar las preguntas con tu perfil, muchas veces erróneamente.
Por ejemplo, ChatGPT me pidió aclaraciones sobre un error de Pantalla Azul de la Muerte porque pensó que podía estar usando Linux, aunque este error solo ocurre en Windows.
4. Desperdicio de Tokens y Espacio en la Respuesta
Las respuestas de la IA están limitadas por tokens (unidades que controlan la longitud de la respuesta). La personalización desperdicia tokens en información innecesaria relacionada con tu perfil.
Por ejemplo, Gemini me dio detalles adicionales sobre Linux cuando pregunté sobre Windows Defender, reduciendo el espacio para la respuesta específica de Windows que necesitaba.
Conclusión
La personalización puede hacer que las respuestas se sientan más relevantes, pero también introduce sesgos, alucinaciones e ineficiencia. Para mí, hizo más difícil confiar y usar los chatbots, así que dejé de personalizarlos.