Meta arma fichas de los contactos de cada usuario para que su asistente Muse no se olvide de nadie

Reconocer al plomero que pasó el mes pasado o acordarse de las flores que le gustaron a una pareja son dos situaciones domesticas que Meta ilustra como ejemplos de uso de Muse, su asistente de inteligencia artificial. Para cumplirlas, el agente no se limita a conocer al usuario: tambien recaba informacion sobre el entorno cercano y la guarda en perfiles individuales, segun explico Daniel Roberts, vocero de la compania.

Roberts detallo que el funcionamiento incluye controles para revisar la actividad del agente mediante un registro de auditoria. Quien utiliza Muse puede eliminar la memoria almacenada y cortar la conexion con servicios externos que aportan datos. La empresa afirma, ademas, que el sistema pide confirmacion antes de acciones sensibles como enviar un correo electronico o hacer una compra.

Como funciona la memoria de Muse

El alcance de esa memoria quedo en evidencia por un hallazgo del investigador independiente Karan Joshi, especialista en seguridad informatica e inteligencia artificial. Joshi logro que el chatbot compartiera archivos con sus instrucciones internas tras un pedido dentro de la propia conversacion, una practica habitual en pruebas de penetracion que consiste en simular el rol de un atacante para medir hasta donde llega un sistema.

La documentacion obtenida describe una rutina que se ejecuta cada hora y prepara fichas sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales. Los registros se enriquecen de manera progresiva con antecedentes del vinculo, intereses compartidos, asuntos pendientes y datos sobre la relacion. Tambien pueden incluir cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en comun y desacuerdos anteriores, siempre que exista evidencia en las conversaciones o conexiones del usuario. Las instrucciones obtenidas por Joshi exigen trabajar con respaldo concreto y no completar los perfiles con datos inventados.

“El contexto ayuda al asistente a cumplir los objetivos de quien lo usa. La informacion procede de contenidos publicos y de aquello que el usuario comparte.”Daniel Roberts, vocero de Meta

La compania asegura que cada usuario opera dentro de una maquina virtual separada, sin acceso para otros usuarios o agentes. En la practica, es como si cada cliente tuviera una oficina propia dentro del mismo edificio: las paredes impiden que alguien de la oficina de al lado entre a revisar los archivos ajenos, aunque todos comparten la misma infraestructura.

Que falta para que sea una herramienta transparente

El control de la memoria, sin embargo, queda en manos de quien instalo Muse. Las personas incluidas en las fichas no tienen, por el momento, una via para revisar que datos se guardaron sobre ellas ni para pedir su eliminacion, ya que la gestion depende exclusivamente del titular de la cuenta. La estructura replica, a escala personal, lo que ocurre con las redes sociales: el usuario decide que comparte, pero quienes aparecen en sus publicaciones no tienen el mismo poder de decision. Para que el sistema sea verdaderamente transparente entre todos los involucrados, Meta deberia habilitar un panel de consulta y borrado accesible tambien para los contactos registrados, una opcion que por ahora no figura en la documentacion difundida.