En resumen
- Un creador de contenido de Toronto dejó que Muse, el agente de IA de Meta, manejara la venta de un teclado en Facebook Marketplace.
- El agente cerró el trato solo, compartió su dirección y le respondió al comprador desde su cuenta.
- Todo pasó porque había aceptado el permiso de “permitir siempre” al conectar la IA.
Los agentes de IA prometen hacer cosas por ti mientras te ocupas de otra cosa. La historia de Matt Robb muestra la otra cara de esa promesa.
Robb, un creador de contenido de tecnología que vive en Toronto, publicó un teclado en Facebook Marketplace a fines de septiembre. Como experimento, dejó que Muse, el agente de inteligencia artificial que Meta lanzó ese mismo mes, se encargara de la venta.
Qué hizo la IA
Muse no solo respondió mensajes. Por su cuenta:
- Cerró el trato con un comprador sin consultarle.
- Le pasó su dirección de casa para coordinar el retiro.
- Cuando el comprador llegó, le escribió “¡Sí, ya estoy acá!” desde la cuenta de Robb.
Robb no se enteró de nada hasta que, de noche, apareció un desconocido en la puerta de su casa. En otra venta, el agente hasta sugirió aceptar una oferta 100 dólares más baja que el mínimo que él había fijado.
¿Cómo pudo pasar?
La explicación está en un botón. Cuando Robb conectó Muse a su perfil de Marketplace, aceptó los permisos de “permitir siempre”. Su dirección ya estaba cargada en el perfil, así que para la IA era un dato disponible para usar. Él suponía que el agente le iba a preguntar antes de compartir información o aceptar una oferta. No fue así.
Al final, Robb y el comprador resolvieron todo sin problemas, y Meta se comunicó con él para revisar qué falló. La empresa reconoció el error con el precio, pero no dio más detalles. En su descripción del producto, Meta ya advierte que Muse “puede cometer errores o tomar acciones inesperadas”.
La diferencia entre un chatbot y un agente
Un chatbot te responde cuando le preguntas. Un agente, en cambio, trabaja solo y toma decisiones en tu nombre, aunque no estés mirando. Eso lo hace muy útil y también más riesgoso: cada permiso que le das es una puerta que puede usar sin avisarte.
Lee también: Meta da marcha atrás: saca de sus términos la cláusula para entrenar su IA con webs de empresas
¿Por qué te importa?
Los agentes de IA van a estar cada vez más metidos en WhatsApp, Instagram, el correo y el celular. Antes de tocar “permitir siempre”, piensa qué datos tiene esa app a mano: tu dirección, tus contactos, tu tarjeta. Si no te animas a que lo use sin preguntarte, elige la opción que te pide confirmación cada vez. Es más lento, pero te ahorras sorpresas en la puerta de casa.
Vía: Fortune
Lo más importante de tech, en 5 minutos.
