¿Cómo debería gestionar la IA los hechos que cambian?

La investigación sobre la memoria plantea una pregunta muy útil: ¿la nueva evidencia revisa lo que ya sabíamos o pertenece a otra situación distinta? En un estudio de 2024 con ratas, Kennedy y sus colegas interpretaron sus resultados como un respaldo a la idea de que los errores de predicción más pequeños favorecen la actualización de un estado de memoria existente. Por su parte, el modelo computacional de Gershman y sus colaboradores de 2017 plantea que quienes aprenden infieren causas ocultas detrás de las observaciones.

Ninguno de los dos sugiere que la ingeniería deba copiar un mecanismo biológico. La conexión útil es organizativa: la información contradictoria puede señalar una corrección, una situación que cambió o la falta de contexto. El software necesita formas de distinguirlos.

Una propuesta de diseño práctica separa cinco tipos de discrepancia—categorías de ingeniería, no un hallazgo de la neurociencia.

• Corrección: se reemplaza una afirmación errónea, como una fecha de cumpleaños corregida.
• Cambio temporal: ambas afirmaciones fueron ciertas en momentos distintos, como dejar un trabajo.
• Contexto: a alguien le desagradan los vuelos comerciales, pero disfruta viajar en avioneta.
• Perspectiva: dos familiares describen el mismo viaje de manera distinta.
• Conflicto sin resolver: la evidencia no permite conciliar dos versiones, por lo que se conserva el desacuerdo y se hace una pregunta específica cuando sea relevante.

Un registro propuesto separaría la evidencia original, el estado histórico que describe, la interpretación actual mejor fundamentada y cualquier punto que siga siendo incierto. Un plan profesional que pasa del interés a una entrevista y luego a una oferta rechazada forma una secuencia, no cuatro valores compitiendo por una sola etiqueta.

El sistema debería distinguir cuándo se hizo una afirmación de cuándo fue cierta, y una intención de un hecho consumado. Las fuentes deben permanecer vinculadas: lo que dice un miembro, una cita textual y una interpretación de la IA tienen diferentes roles probatorios. Si el material original se corrige o se elimina, los resúmenes que dependen de él también deberían actualizarse.

La sorpresa puede priorizar una revisión sin determinar la verdad. Un mensaje nuevo y llamativo podría ser un chiste, una cita o ficción. La revisión que proponemos identifica a las personas, los eventos, los momentos y las fuentes, clasifica la discrepancia y analiza la evidencia antes de cambiar la perspectiva actual. Una ambigüedad importante debería dar pie a una pregunta directa en lugar de a una suposición precipitada.

Los resúmenes generados por IA necesitan la misma disciplina: una inferencia sigue siendo una inferencia atribuida, nunca algo que el miembro supuestamente dijo. La información inesperada amerita investigación; la evidencia determina si una revisión está justificada.

Un experimento propuesto compararía tres enfoques en historiales sintéticos: la afirmación más reciente gana; añadir todo y resolverlo después; y conservar fuentes, fechas, tipos de afirmaciones y enlaces entre los estados anteriores y los actuales. Los historiales incluirían fechas corregidas, planes cancelados, preferencias en evolución, perspectivas, contradicciones sin resolver y chistes o citas recientes.

Las preguntas emparejarían presente y pasado: ¿cuál es el plan ahora?, ¿cuál era antes?, ¿cuándo cambió? y ¿la afirmación anterior era errónea o era acertada en ese momento? Las puntuaciones evaluarían la precisión actual, la fidelidad histórica, la atribución, la abstención, las aclaraciones innecesarias y el costo. La expectativa de que el seguimiento basado en evidencias funcione mejor es una hipótesis por comprobar, no un resultado demostrado.

Imagina que el año pasado le dijiste a un asistente que vivías en una ciudad y este año le dices que te mudaste. Un sistema descuidado podría responder con cualquiera de las dos ciudades o mezclarlas. Un sistema consciente del tiempo diría dónde vives ahora y, si le preguntas, recordaría que antes vivías en otro lugar y más o menos cuándo cambió eso.

Lo mismo aplica a planes, trabajos, relaciones y preferencias. Las personas cambian, y una memoria que no puede representar el cambio termina quedándose estancada en el pasado o olvidándolo por completo. Ninguna de las dos opciones le sirve al usuario.

Cuando el sistema no está seguro de si una nueva afirmación reemplaza a una anterior, la opción más respetuosa suele ser preguntar. Una pregunta breve cuesta muy poco, mientras que sobrescribir en silencio un hecho verdadero puede generar errores difíciles de notar más adelante.