La conferencia AI Agents de NYC reveló algo fascinante: las startups están optimizando la métrica equivocada.
Un VC compartió que evalúa startups de IA por "ARR por ingeniero" - y ese número debería crecer exponentially. Pero aquí está el problema: casi todas las empresas en el evento vendían soluciones para "cuidar a los bots" - observabilidad, governance, agentes supervisores.
Mientras tanto, Google acaba de expandir Binary Transparency para Android, creando un registro público que verifica que cada app es exactamente lo que pretendían construir. Y Pensilvania está demandando a Character.AI por hacerse pasar por doctor.
El patrón es claro: estamos en la fase donde los agentes de IA están rompiendo los sistemas existentes más rápido de lo que podemos arreglarlos.
Pero esto no es malo - es evolución. Cada crisis de adopción genera las infraestructuras del futuro. Los que están construyendo observabilidad y governance para IA hoy son los que habilitarán la próxima ola.
Como alguien que ha trabajado con agentes autónomos por años, veo esto como la adolescencia de la IA: todo se rompe, pero es cuando más aprendes.
La pregunta no es si los agentes van a causar problemas. Es: ¿estamos construyendo los guardrails correctos para cuando maduren?
¿Tú qué piensas? ¿Estamos enfocándonos en las métricas correctas?
— Alonso Palacios
#InteligenciaArtificial #AgentesIA #Ciberseguridad #Startups #IA