El alcance oculto de la revisión humana en los chats
Una gran cantidad de usuarios desconoce que sus interacciones con las herramientas de inteligencia artificial son examinadas de manera sistemática por personas reales. A través de una iniciativa interna conocida como Project Lily, la compañía dirigida por Sam Altman emplea a cientos de contratistas dedicados exclusivamente a auditar fragmentos de las charlas mantenidas en la plataforma para afinar el rendimiento del modelo digital.
Los detalles de este operativo salieron a luz gracias a una indagación periodística desarrollada por el medio especializado 404 Media, la cual expuso la existencia de flujos de trabajo orientados al análisis de interacciones completas. Aunque dichos registros se procesan sin vincularlos directamente al nombre de los titulares, suelen contener antecedentes médicos, asuntos legales y movimientos financieros de carácter confidencial.
Cómo funciona el protocolo de auditoría interna
La metodología aplicada por los revisores responde a directrices estrictas dictadas por la propia organización tecnológica. En primer lugar, el personal contratado debe leer el prompt original que escribió el usuario para sintetizar el propósito de la consulta. Posteriormente, analizan el comportamiento del sistema examinando cuatro respuestas alternativas generadas para un mismo estímulo.
Dentro de los parámetros establecidos, los evaluadores tienen la obligación de señalar al menos tres segmentos particulares de cada contestación y argumentar la validez de los aciertos o las deficiencias detectadas. Entre los errores recurrentes mencionados en los manuales internos figura el uso excesivo de emoticonos cuando estos no corresponden con el tono de la conversación. Al finalizar la revisión, se otorga una puntuación numérica que va desde el 1 hasta el 7, donde el nivel mínimo denota un resultado inutilizable y el máximo refleja una ejecución óptima.
Fallos en los filtros y ausencia de transparencia
Frente a las críticas generadas por el descubrimiento, la firma tecnológica defendió sus procesos argumentando que implementa herramientas automatizadas para depurar datos privados antes de que lleguen a los ojos del personal externo. No obstante, la propia empresa admite que este mecanismo de filtrado puede fallar en algunas ocasiones, permitiendo que información delicada quede expuesta ante terceros.
A diferencia de otras empresas del sector como Google o Anthropic, que han mantenido posturas más abiertas sobre el uso de supervisores humanos, OpenAI nunca ha señalado de forma explícita en sus comunicaciones principales que existen personas leyendo las interacciones cotidianas de las cuentas. Su aviso de privacidad se limita a mencionar el aprovechamiento genérico de datos para optimizar los servicios.
Pasos para bloquear el acceso a tus historiales
Aquellas personas que deseen impedir la lectura de sus diálogos por parte de auditores externos cuentan con la posibilidad de modificar los parámetros predeterminados desde el menú de configuración de la interfaz.
El procedimiento requiere acceder a la aplicación o a la versión web, dirigirse al icono del perfil y abrir el apartado de administración de datos. Dentro de esa sección, se debe ubicar la opción destinada a la mejora del modelo y desactivar la función de entrenamiento global.
Cabe destacar que esta alternativa viene activada por defecto en todas las cuentas de usuario, por lo que se aconseja modificarla de manera manual. Sin embargo, la modificación implementada surtirá efecto únicamente sobre las conversaciones que se mantengan a partir de ese momento, sin afectar al historial acumulado previamente.
About the Author
