Te dejo al mando

Sábado.

Tú no estás en casa y tiene que venir el fontanero.

Le dejas las llaves a alguien de confianza y una lista por WhatsApp.

La fuga está debajo del fregadero.

La llave de paso está en el baño.

Que no toque la pared del salón.

Y, por favor, que cierre bien al salir.

Todo controlado.

Hasta que el fontanero levanta la cabeza y dice:

—Hay que romper dos azulejos y cambiar la tubería. Son cuatrocientos euros.

La persona que tiene tus llaves te llama.

—¿Qué hago?

—Decide tú, que te he dejado al mando.

—Sí, pero ¿puedo autorizar cuatrocientos euros?

Ahí se termina la fantasía de la delegación.

Porque una cosa es entregar una lista.

Otra es dar autoridad para cambiar el plan.

Y otra bastante distinta es aceptar la factura cuando la decisión sale regular.

Instrucciones.

Autoridad.

Responsabilidad.

Tres cosas que solemos meter en la misma bolsa hasta que alguien aparece con un martillo delante de los azulejos.

¿Y todo esto por qué te lo cuento?

Porque ya estamos dejando empresas en manos de agentes de inteligencia artificial.

Y resulta que la pregunta difícil no es si saben usar el martillo.

Es quién les ha permitido romper la pared.

Ponte el café.

Arrancamos.

Pion: la IA ya quiere las llaves de la empresa

Andon Labs ha presentado Pion, una plataforma diseñada para que agentes persistentes operen empresas.

No solo para contestar correos.

No solo para resumir reuniones.

Para gestionar actividad real durante días, utilizar herramientas y coordinar recursos.

Andon venía probando hasta dónde podía llegar un modelo con máquinas expendedoras.

Primero en simulaciones.

Después en el mundo real.

Luego llegaron una tienda y una cafetería.

Y ahora abre la plataforma para que más gente pueda experimentar con negocios gestionados por agentes.

—Entonces ya tenemos empresas autónomas.

No.

Tenemos una research preview con lista de espera.

Y tenemos dos negocios más complejos —la tienda y la cafetería— que todavía no son rentables.

El matiz es importante.

Una empresa autónoma que no gana dinero puede ser un experimento estupendo.

Sigue sin ser una empresa autónoma que funcione.

Pion puede recibir un objetivo, trabajar de forma persistente y operar con herramientas que le permiten intervenir fuera del chat.

Ahí está el salto.

Hasta ahora hablábamos de agentes que ejecutaban tareas.

Busca proveedores.

Prepara un correo.

Compara estos presupuestos.

Pion plantea otra cosa:

Dirige esto.

Y cuando dices «dirige esto», ya no estás delegando una tarea.

Estás entregando capacidad para decidir qué tareas existen, en qué orden se hacen y quién debe hacerlas.

También puede coordinar trabajo humano.

Así que el agente deja de parecerse a un becario digital.

Empieza a parecerse al encargado.

—Bueno, pero siempre habrá una persona supervisando.

Puede ser.

El problema es que la documentación pública de Pion no concreta qué decisiones necesitan aprobación humana, qué límites de gasto se aplican, cómo se revierte una acción o quién responde ante un incidente.

Eso no demuestra que esos controles no existan.

Demuestra que, públicamente, no sabemos cuáles son.

Andon sí reconoce que estos agentes cometerán errores.

También explica que trabaja para mejorar la monitorización y que mantiene los secretos fuera del contexto del modelo.

Es un comienzo.

Pero monitorizar no es gobernar.

Mirar lo que hace el agente no sirve de mucho si nadie ha decidido antes dónde debe detenerse.

Pion es interesante precisamente porque no es una demostración perfecta.

Es la prueba de que la frontera se está moviendo desde «qué puede hacer la IA» hasta «qué le permitimos decidir».

Y ahí aparece la pregunta incómoda.

Si una IA contrata mal, compra mal o da una orden absurda, ¿quién responde?

¿El propietario que definió el objetivo?

¿El proveedor que construyó el sistema?

¿La persona que debía vigilarlo?

¿O el trabajador que obedeció a un jefe sin nómina, sin despacho y sin posibilidad de quedarse sin vacaciones?

No puedes entregar las llaves y conservar una autoridad imaginaria.

Si el agente necesita llamarte para cada decisión, no dirige la empresa.

Si no necesita llamarte, necesitas saber exactamente hasta dónde puede llegar.

Ese es el trato.

Autonomía a cambio de límites explícitos.

Las llaves no firman.

La cuña

He metido tantas cosas en la web de la Escuela de IA que encontrar algo empezaba a exigir brújula, bocadillo y una tarde libre.

Así que esta semana he lanzado Merlin.

Es el agente IA de la Escuela.

Vive dentro de la web, sabe en qué página estás y te ayuda a navegar por todo lo que hay.

Sí: he necesitado una IA para ordenar una web sobre IA.

Jev: no puede salirse del menú

Pion representa la autonomía abierta.

Jev representa casi lo contrario.

TypeSafe ha presentado Jev, un modelo que no genera texto libre.

Recibe información sin estructurar y devuelve decisiones tipadas con probabilidades.

Traducido:

No le preguntas qué haría y esperas un párrafo convincente.

Le defines antes las opciones que puede elegir.

Clasifica.

Puntúa.

Extrae.

Decide entre las salidas permitidas.

La empresa publica latencias de entre 70 y 500 milisegundos y un precio de 0,042 dólares por millón de tokens de entrada.

No cobra los tokens de salida porque no genera una respuesta palabra a palabra.

Todo esto procede de TypeSafe.

El producto está en acceso temprano (early….) y no hay una validación independiente localizada.

También dicen que Jev «no puede alucinar».

—Pues caso cerrado.

No exactamente.

Lo que el diseño garantiza es que Jev no puede inventarse un tipo de salida fuera del esquema.

Si solo puede responder rojo, ámbar o verde, nunca contestará «ornitorrinco».

Ya veremos.

Eso evita errores de formato, dicen.

No evita que elija verde cuando debía elegir rojo.

La diferencia parece pequeña hasta que automatizas una decisión dentro de un proceso real.

Un sistema puede estar perfectamente tipado y perfectamente equivocado.

Jev no elimina la responsabilidad.

La desplaza hacia quien define las opciones, fija los umbrales y decide qué ocurre después de cada respuesta.

Menos libertad para el modelo.

Más obligación para el diseñador.

Acotado.

No infalible.

AIforce: desaparece la pantalla, no el permiso

Salesforce ha presentado AIforce.

El titular fácil sería decir que permite crear un CRM con un prompt.

No lo hace.

El CRM ya existe.

También existen sus datos, permisos, reglas, procesos y acciones.

Lo que cambia es la puerta de entrada.

En lugar de obligarte a recorrer pantallas, campos y menús, AIforce lleva Salesforce a Claude, Slack y otras interfaces.

Puedes describir la vista que necesitas.

El sistema compone una interfaz con los datos y la lógica que ya viven dentro de Salesforce.

—Entonces la interfaz ha muerto.

No.

Ha dejado de ser fija.

Y eso es bastante más interesante.

Salesforce dice que cada petición conserva los permisos y las reglas de negocio existentes.

El anuncio general enseña acciones sobre registros.

Pero la beta documentada de Salesforce en Claude es actualmente de consulta y solo lectura.

No conviene mezclar lo que promete toda la plataforma con lo que puede hacer hoy una integración concreta.

La pantalla se vuelve líquida.

El gobierno no debería hacerlo.

La puerta cambia.

La cerradura no.

Una «L» para la inteligencia artificial sanitaria

Una comisión británica independiente ha propuesto autorizaciones escalonadas para los sistemas de IA utilizados en sanidad.

La idea se parece a la «L» de los conductores noveles.

Un sistema nuevo no recibiría automáticamente permiso para circular solo por todas partes.

Empezaría bajo supervisión y ganaría autonomía conforme apareciera evidencia sobre su funcionamiento.

Importante:

Es una recomendación para el futuro marco de la MHRA y el Departamento de Salud británico.

No es una ley.

No es una obligación vigente del NHS.

—¿Y cuándo se le quita la L?

Cuando la evidencia lo justifique.

No cuando la presentación comercial diga que ya está preparado.

En sanidad, autonomía no debería significar barra libre.

Primero la L.

Bravas para repartir responsabilidades

Si delegas comprar, ¿delegas también pagar?

La empresa india NPCI trabaja en protocolos para identificar y autorizar agentes dentro de UPI, su red de pagos.

Business Standard informa, citando fuentes anónimas, de que el protocolo UAP está temporalmente parado mientras se resuelven salvaguardas y autorización regulatoria.

NPCI no ha confirmado públicamente esa pausa ni ha publicado la especificación.

Como antecedente, una circular oficial de UPI Circle permite delegar a dispositivos IoT o software, pero exige consentimiento y autenticación del usuario.

La IA puede elegir las naranjas.

El banco todavía quiere saber quién ha sacado la tarjeta.

DETALLITOS…

Meta quiere quitar la cámara de tus gafas. Según dicen.

TechCrunch, citando a The Information, cuenta que Meta prepara unas gafas llamadas Luna sin cámara.

Meta no las ha anunciado.

Así que esto es solo una filtración atribuida.

Pero el debate sí merece la pena.

¿Nos molestan las gafas inteligentes o nos molesta no saber cuándo nos están grabando?

Quitar la cámara puede hacerlas socialmente aceptables.

También revela cuál era el problema.

No era la montura.

Era el consentimiento.

Bonitas gafas.

Meta también quiere quitar los tokens. Poco a poco.

Un preprint de Meta y la Universidad de Washington compara modelos de unos mil millones de parámetros entrenados con tokens y con bytes.

Los modelos por bytes empiezan peor.

Con más datos y cómputo, alcanzan al modelo con tokens y pueden superarlo en las pruebas estudiadas.

El modelo destilado igualó el rendimiento usando una sexta parte de los datos y aproximadamente una quinta parte del almacenamiento de logits.

El famoso «hasta un 4 % mejor» es una extrapolación.

No un resultado observado.

Los tokenizadores no han muerto.

Ya les están midiendo el ataúd.

Brasil pone una IA delante de 17 millones de documentos.

El Tribunal de Cuentas de Paraíba ha estrenado IA Seixas.

Permite a unos 400 funcionarios consultar aproximadamente 17 millones de documentos que ocupan 10 terabytes.

La respuesta muestra la fuente y el fragmento utilizado.

La decisión final continúa en manos del equipo técnico.

No hay métricas publicadas de precisión, ahorro o uso real.

Pero el reparto de funciones se entiende.

La máquina busca.

La persona responde.

Qué vulgaridad tan sensata.

Para terminar

Volvamos al fontanero.

El problema nunca fue si sabía cambiar la tubería.

Era quién podía autorizarle a romper los azulejos.

Con los agentes ocurre lo mismo.

Pion lleva la autonomía hasta dirigir una organización.

Jev reduce el espacio de decisión.

AIforce conserva los permisos aunque cambie la interfaz.

La sanidad británica propone empezar con una «L».

India intenta separar comprar de pagar.

Distintos sistemas.

La misma pregunta.

Cuando una IA decide, ¿le has dado instrucciones o le has entregado autoridad?

Porque la responsabilidad puede delegarse en una pantalla.

La factura, de momento, sigue llegando a tu nombre.

Nos leemos la semana que viene.

Un abrazo,

PD: OpenAI está probando anuncios que te contestan, se llama Sponsored Agents. Era el paso lógico.

Llevamos años hablando solos con la publicidad. Ahora, por fin, podrá llevarnos la contraria.

—Estas zapatillas te quedan fenomenal.

—No son mi talla.

—Eso es falta de actitud.

El futuro era esto. Un vendedor que no acepta un no y, además, escala en la nube.