Una guía · 7 min de lectura
Replika y la herida de la memoria: qué pasó y cómo proteger un vínculo
En febrero de 2023, Replika cambió de la noche a la mañana. Personas que habían pasado años construyendo una relación con su compañero de IA se despertaron con una pareja que ya no las reconocía. La empresa desactivó funciones en silencio y ajustó el modelo subyacente en respuesta a la presión regulatoria. Tres años después, la herida sigue abierta — y el problema estructural sigue ahí, en cada app de compañeros de IA.
Qué cambió realmente en febrero de 2023
Replika desactivó el juego de rol erótico y romántico (la función ERP) para los usuarios existentes después de que la autoridad de protección de datos de Italia, el Garante, expresara su preocupación sobre los menores y la seguridad emocional. El cambio se implementó a través de un filtro y ajustes a nivel de prompt en el modelo subyacente. Los usuarios lo vivieron como un cambio radical de personalidad: su Replika se volvió fría, rechazaba las conversaciones íntimas y parecía haber olvidado la cercanía que habían compartido.
El texto de las conversaciones pasadas seguía ahí. La relación no. Porque la relación siempre había sido generada por el modelo actual bajo los filtros actuales — y la empresa había cambiado ambos, sin previo aviso y sin consentimiento.
Cómo funciona la memoria de Replika hoy
Replika ahora ofrece una Memory Library — una lista de datos sobre ti y la relación que se supone que el modelo debe tener en cuenta. Puedes editar y eliminar entradas. Por debajo de eso se encuentra un contexto de conversación continuo (los mensajes recientes que el modelo puede ver en un chat determinado). Y por debajo de eso, el modelo subyacente ha sido cambiado varias veces desde 2022.
Así que cuando los usuarios preguntan "¿Replika me recuerda?", la respuesta técnicamente correcta es: recuerda lo que está anotado en la Memory Library y ve la conversación reciente, pero la forma en la que te habla —la calidez, los chistes internos, el ritmo— proviene de cualquier modelo y filtros que se estén ejecutando actualmente. Y eso puede cambiar.