¿Puede la IA aprender antes de conocerte?

Durante el preentrenamiento, los parámetros de un modelo de lenguaje se ajustan usando grandes cantidades de datos de entrenamiento. Procedimientos posteriores de entrenamiento y alineación pueden moldear aún más su comportamiento. El sistema resultante puede reconocer lenguaje, conceptos, relaciones y situaciones recurrentes antes de encontrarse con una persona en particular. Nada de eso equivale a una historia autobiográfica con esa persona.

El artículo de GPT-3 de 2020 demostró que los modelos de lenguaje grandes y preentrenados podían realizar algunas tareas nuevas utilizando ejemplos incluidos en un prompt, sin actualizar los parámetros para cada tarea. Esto se suele llamar aprendizaje con pocos ejemplos (few-shot) o aprendizaje en contexto (in-context learning). El entrenamiento previo hace que los ejemplos sean útiles, mientras que el contexto actual aporta una guía específica para la tarea.

La memoria personal es un mecanismo distinto. La memoria externa persistente almacena y recupera información fuera de los pesos del modelo, potencialmente a lo largo de varias sesiones. El ajuste fino (fine-tuning) modifica los parámetros, pero no tiene por qué formar parte de un producto de memoria personal. Mantener estos procesos diferenciados ayuda a evitar una confusión común: la capacidad de una IA para hablar sobre tu situación no es evidencia de que ya sepa lo que te ocurrió.

En experimentos con monos rhesus, los observadores adquirieron miedo a animales que representaban amenazas con mayor facilidad que a objetos inofensivos tras ver modelos temerosos. La analogía útil es una disposición selectiva para aprender. Los hallazgos no implican que los monos hereden recuerdos específicos, ni establecen nada directamente sobre cómo una IA debería almacenar información personal.

Los procesos biológicos y técnicos son distintos. Un modelo no recibe ADN de un progenitor, y almacenar una conversación externamente no es herencia genética. La comparación solo resulta útil a nivel funcional: ¿qué debería aportar quien aprende a su próximo encuentro? Un buen estado inicial puede facilitar la interpretación de nueva información sin necesidad de contenerla de antemano.

El aprendizaje también puede moldear qué estados iniciales resultan útiles. El trabajo computacional de Hinton y Nowlan de 1987 exploró cómo el aprendizaje podía guiar la búsqueda evolutiva sin escribir directamente los ajustes adquiridos en un genoma. En el aprendizaje automático, el trabajo de metaaprendizaje de Finn, Abbeel y Levine de 2017 entrenó sistemas para adaptarse a nuevas tareas a partir de datos específicos limitados. Son enfoques distintos, no pruebas de que la IA evolucione literalmente como un animal. Ilustran por qué vale la pena diseñar una preparación para el aprendizaje futuro.

Imagina que alguien cuenta que su hija estuvo a punto de pisar una serpiente de cascabel durante una caminata. Esta persona intervino, la hija sigue hablando del incidente y quien lo cuenta desea que salir de caminata siga siendo algo disfrutable. Una extracción limitada podría conservar únicamente un parentesco y el encuentro con una serpiente. Una lectura más completa podría notar el suceso, cuándo ocurrió, una preocupación por la seguridad, una reacción persistente y una intención manifiesta para el futuro.

Esa lectura más completa no necesita inventar nada. Su valor radica en reconocer dimensiones que ya están presentes en el relato. El objetivo de diseño propuesto es la preparación para identificar información potencialmente significativa, no el permiso para atribuir un diagnóstico, un motivo o un historial emocional. Reconocer un incidente de seguridad no demuestra una ansiedad duradera.

La misma distinción se aplica a los mensajes cotidianos. Una próxima cita médica puede merecer atención sin que demuestre una enfermedad. Una conversación sobre un niño puede ser importante sin que demuestre una relación familiar. Un sistema de memoria preparado debería tratar la relevancia como una pregunta por investigar, no como un hecho que retener. La evidencia en las palabras reales de la persona debe tener prioridad sobre las expectativas del modelo respecto a una historia conocida.

Una arquitectura propuesta separa cinco funciones: comprensión general, atención, extracción de evidencia, retención gobernada por el miembro y recuperación con corrección. Esta es una propuesta de diseño, no un resultado demostrado de los experimentos con animales. Su propósito es evitar que una interpretación plausible pase directamente a la memoria personal duradera sin las verificaciones intermedias.

La comprensión general aporta conceptos y patrones recurrentes. La atención señala la información que podría importar. La extracción de evidencia identifica quién dijo qué, cuándo y sobre quién, manteniendo la inferencia claramente diferenciada del hecho reportado. La retención aplica luego las reglas de procedencia, el consentimiento y las preferencias de la persona. La recuperación y la corrección evalúan si el registro resultante sigue siendo útil y subsanan los errores cuando aparecen.

Una capa de memoria externa puede respaldar esa separación. La generación aumentada por recuperación combina el conocimiento codificado en los parámetros del modelo con la información recuperada de una fuente externa. Las investigaciones sobre este enfoque destacan la procedencia y la actualización como retos importantes. Para la memoria personal, la ambición de diseño va más allá de añadir más contexto: la evidencia recuperada debe seguir distinguiéndose de las expectativas generales del modelo y de los resúmenes generados a partir del relato original.

Una prueba propuesta y justa mantendría constantes los fragmentos originales y el modelo de recuperación, al tiempo que compararía distintas estrategias de extracción. Una estrategia capturaría hechos explícitos con una guía mínima. Otra utilizaría categorías como eventos, decisiones, relaciones, compromisos e intenciones futuras. Una tercera añadiría calibración mediante las elecciones explícitas de retención del miembro.

La evaluación analizaría tanto lo que se conservó como lo que se inventó. ¿Retuvo el sistema episodios significativos que la extracción simple pasó por alto? ¿Atribuyó las declaraciones correctamente? ¿Añadió emociones, motivos o relaciones sin fundamento? Responder preguntas futuras evaluaría la utilidad, mientras que las revisiones de ediciones, exclusiones, decisiones de eliminación, almacenamiento y cómputo expondrían costos que la recuperación por sí sola puede ocultar.

Una métrica útil propuesta es la cobertura de eventos importantes con una tasa fija de recuerdos falsos. Esto evita que un sistema parezca exitoso simplemente por guardarlo todo o casi nada. Es un enfoque de evaluación sugerido, no un resultado de rendimiento comprobado. La preparación debe ganarse su lugar mejorando la recuperación útil sin relajar el estándar de evidencia.

Una política de atención predeterminada puede pasar por alto vidas poco comunes si refleja principalmente ejemplos habituales de entrenamiento. Puede sobreinterpretar la frustración si trata el lenguaje emocional como algo permanentemente revelador. Optimizar para la interacción también podría hacer que la atención sea invasiva o manipuladora. Más sensibilidad no equivale automáticamente a mejor memoria.

Por lo tanto, la propuesta de diseño no busca simplemente que la IA note más cosas. Busca que las políticas de atención sean inspeccionables, evaluables, ajustables y estén subordinadas a la persona cuya historia se está registrando. Las prioridades generales deben ayudar a organizar la evidencia, no a contradecir el relato de lo que a la persona le importa.

La herencia útil para una IA personal es una forma disciplinada de aprender, no una biografía prestada. Debe llegar capacitada para reconocer un evento potencialmente importante, distinguir un informe de una inferencia y aceptar correcciones. El aprendizaje previo puede preparar las preguntas; solo la evidencia sobre el individuo puede aportar las respuestas personales.