a16z Última opinión: Cuando los agentes de IA se convierten en los principales usuarios del software

Escribir: Círculo de Reflexión Profunda

¿Alguna vez has pensado que toda la lógica que construimos en el software podría ser completamente revolucionada? Durante las últimas décadas, todo software ha sido diseñado para humanos. Hemos invertido innumerables esfuerzos en optimizar interfaces de usuario, hacer que los botones sean más fáciles de encontrar, que los menús sean más claros y que los flujos de operación sean más fluidos. Pero, ¿qué pasa si en el futuro los principales usuarios del software dejan de ser humanos y son agentes de IA? ¿Y si una empresa tiene cien empleados, pero mil agentes de IA trabajando para ella? ¿Deberíamos seguir enfocándonos en optimizar la interfaz para humanos?

Recientemente, en un episodio del podcast de a16z, Erik Torenberg, Steven Sinofsky y Martin Casado mantuvieron una conversación sumamente profunda con Aaron Levie, CEO de Box. El núcleo de su discusión fue: ¿cómo se reestructurará toda la industria del software cuando los agentes de IA se conviertan en los principales usuarios? Esa conversación me hizo dar cuenta de que estamos en el umbral de una transformación paradigmática mucho más intensa de lo que la mayoría imagina. No se trata simplemente de agregar funciones de IA a los software existentes, sino de repensar desde cero cómo se construye, cómo se interactúa y cómo se usa el software.

El software debe ser construido para agentes de IA

Aaron Levie planteó en la conversación una idea que me hizo reflexionar profundamente: si tienes cien veces o incluso mil veces más agentes de IA que empleados, entonces tu software debe estar diseñado para ellos. No es una opción, sino una tendencia inevitable. Box ahora dedica tanto tiempo a pensar en las interfaces de los agentes como en las de los humanos. La velocidad de este cambio ha superado ampliamente mis expectativas.

La lógica detrás de esto es bastante simple. Cuando los agentes de IA se convierten en los principales usuarios del software, interactúan con el sistema mediante API, CLI (interfaz de línea de comandos) o protocolos como MCP (Model Context Protocol, protocolo de contexto de modelo). ¿Y cuál es el paradigma más efectivo en este momento? Proporcionar a un agente que puede escribir código acceso a herramientas SaaS, permitiéndole acceder a tus flujos de trabajo de conocimiento y a la información contextual. Estos agentes no solo leen y comprenden información, sino que, lo más importante, pueden completar tareas escribiendo código o usando API.

Claude Code de Anthropic, las superaplicaciones en desarrollo de OpenAI y las funciones de cálculo de Perplexity están avanzando en esa dirección. Creo que la capacidad combinada de estas tecnologías apenas comienza a crecer. Imagina un agente que no solo entiende que le dices “ayúdame a analizar los datos de ventas del último trimestre”, sino que también escribe código para extraer datos, analizarlos, generar visualizaciones y hasta descubrir tendencias que tú no habías notado. ¿Hasta dónde puede llegar esa capacidad? Aún no lo tengo claro.

Pero hay una cuestión clave que me ha estado haciendo pensar: mucha gente dice que hay que “construir cosas para los agentes”, “hacer marketing a los agentes” o “tener buenas API y lenguajes de descripción de interfaces”. Martin Casado expresó en la conversación una opinión con la que estoy totalmente de acuerdo: esa forma de pensar está casi completamente equivocada. ¿Por qué? Porque los agentes son, precisamente, los mejores en encontrar las herramientas y sistemas backend adecuados. No elegirán tu API solo porque esté bien documentada, sino que basarán su decisión en factores como costo, confiabilidad del sistema, persistencia de datos, entre otros. Los agentes poseen la inteligencia colectiva de los humanos que usan esas plataformas.

Este punto me hizo entender algo: como industria, estamos demasiado enfocados en las interfaces y las APIs, y hemos descuidado lo esencial: necesitamos construir mejores sistemas en sí mismos. Los agentes nos impulsarán a volver a lo técnico, en lugar de centrarnos en el marketing. Antes, las decisiones de compra de software empresarial estaban influenciadas por la capacidad de venta, la marca o incluso cenas de negocios. Pero en un mundo dominado por agentes, estos factores perderán peso significativamente. Los agentes tomarán decisiones más racionales basadas en la calidad técnica. Para las empresas que realmente se enfocan en la tecnología, esto representa una oportunidad enorme.

La barrera del pensamiento algorítmico: no todos pueden comandar un agente de IA

Una parte de la conversación que me impresionó fue la discusión sobre los desafíos reales de que personal no técnico use agentes de IA. Steven Sinofsky señaló con agudeza: el pensamiento algorítmico es extremadamente difícil para la mayoría de las personas que trabajan. Si pides a cualquier empleado que dibuje un diagrama de flujo para una tarea, probablemente fallará.

Esa observación va al grano. Imagina un equipo de 50 marketers responsables de una línea de productos grande; quizás solo uno entiende y puede documentar todo el proceso. Si les das herramientas de colaboración o agentes de IA para crear automatizaciones, su capacidad para explicar claramente “qué hacer” es muy limitada.

La respuesta de Aaron Levie fue que esto solo implica que el trabajo se ha desplazado un nivel más arriba, y que hay que aprender nuevas habilidades. No es diferente a cada cambio tecnológico en la historia. Citó un ejemplo interesante: un marketer de crecimiento en Anthropic usó Claude Code para completar tareas que antes requerían de cinco a diez personas. La clave aquí es que esa persona ya era una pensadora sistémica y tenía suficiente conocimiento técnico para lograrlo.

Pero la pregunta crucial es: si imaginamos que cada puesto de trabajo tiene un pool infinito de ingenieros que pueden automatizar cualquier tarea, ¿cómo sería ese puesto en el futuro? Creo que es una reflexión importante. Quizá los agentes se vuelvan cada vez mejores guiando a los usuarios hacia un pensamiento más sistemático, pero, por ahora, solo unos pocos saben usar estas herramientas efectivamente.

Steven Sinofsky compartió una analogía brillante: su prima, que salió de una escuela de negocios de élite, empezó su primer trabajo justo cuando comenzaba la era de la computación. En la escuela no usaba hojas de cálculo, pero en su primer año le dijeron que podía contratar tantos pasantes como quisiera. Ella gestionó toda una sala de “agentes” — estudiantes universitarios que hacían todo el trabajo con hojas de cálculo. Lo sorprendente fue que, en los años siguientes, ella y sus colegas se convirtieron en expertos en hojas de cálculo. La abstracción se elevó. Lo que antes hacían los pasantes con calculadoras y HP Financial Calculators, ahora ella lo hacía con hojas de cálculo, y podía hacer 30 iteraciones en lugar de solo 2.

Este relato me hizo entender que estamos en una fase similar en el desarrollo de los agentes de IA. Al principio, parecerá que se necesitan 50 pequeños agentes coordinados por una persona muy inteligente. Pero pronto, esas tareas se fusionarán en un conjunto de habilidades — un código, un agente — que entenderá marketing, por ejemplo. Podrás preguntarle sobre marketing y luego pedirle que ejecute tareas específicas.

El cambio clave será que, ahora, solo las personas con conocimientos de “ingeniería espacial” podrán crear y coordinar 42 agentes. Pero esa barrera desaparecerá rápidamente, y mucho del conocimiento especializado volverá a manos de los expertos en cada campo. Es muy parecido a la evolución de las hojas de cálculo.

El temor empresarial: integración descontrolada y pesadillas de permisos

Un escenario que me tocó profundamente fue cuando Aaron Levie comentó que recientemente expresó una visión optimista frente a un grupo de CFO y CIO, y seis de ellos le respondieron: “Estás loco, has perdido toda credibilidad conmigo”. ¿Por qué? Porque dijo que los problemas de integración serán mucho más fáciles en el futuro.

Las preocupaciones de los responsables de TI no son infundadas. Temen no solo a los agentes en sí, sino a que los humanos tengan la capacidad de crear integraciones. Cuando permites que los empleados creen nuevas conexiones, básicamente estás diciendo: “Por favor, destruye mis sistemas centrales”. Imagina que alguien crea una API entre el sistema 27 y el 38. Si solo se usa para generar informes, el error es suyo y no pasa nada. Pero, ¿qué pasa si involucra operaciones de escritura?

Aaron Levie predice que, en un futuro cercano (un número grande), tendremos versiones de agentes solo de lectura para integraciones. Muchas aplicaciones de IA son actualmente de consumo: los humanos son los usuarios finales. Pero incluso en ese nivel, surgen nuevos desafíos.

Box acaba de lanzar su CLI oficial, y Aaron describió un escenario: si usas Claude Code con el CLI de Box, ahora puedes interactuar en lenguaje natural con todo el sistema de Box, usando modelos potentes como Opus 4.6 para orquestar operaciones. Suena genial: decir “sube toda esta carpeta a Box” o “procesa todos los documentos en esta carpeta” y que se hagan automáticamente.

Pero los problemas que surgen son complicados. Imagina una empresa con 5000 empleados, todos accediendo a documentos compartidos y usando CLI. ¿Cómo coordinar solicitudes que pueden llegar a 10,000 por hora? No solo es un problema de rendimiento, sino de evitar que un agente en movimiento intente escribir en un archivo mientras otro intenta eliminar algo, o que varios agentes intenten modificar o borrar recursos simultáneamente. Cuando estos agentes corren sin control, se vuelve un caos para los CFO y CIO.

Aaron Levie mismo experimentó esto: al crear una estructura de directorios para un plan de marketing, entró en un ciclo infinito de crear subcarpetas anidadas. Bromeó: “Me pregunto cuál es el límite de profundidad de los directorios en Box, porque ya casi lo alcanzo.”

Este incidente refleja un problema mayor: cuando los agentes tienen capacidad de actuar, pueden hacer cosas impredecibles. Esa imprevisibilidad es lo que más temen las empresas.

¿Tratar a los agentes de IA como empleados? No es tan simple

Una parte de la conversación que me pareció especialmente interesante fue sobre cómo gestionar los agentes de IA. Cuando las personas empiezan a usar agentes personales, les dan sus propias claves API, correos electrónicos, etc. ¿Cómo evitar que hagan cosas que no deberían?

Martin Casado compartió una práctica: darles a los agentes su propio número de teléfono, tarjeta de crédito prepagada (como una Visa de CVS), y cuenta de Gmail. Gmail tiene muchos mecanismos de control de acceso (RBAC). Se puede argumentar que ya construimos muchos sistemas de permisos, y que los agentes deben tratarse como personas independientes.

Pero Aaron Levie rápidamente señaló un problema: en un equipo de 50 personas, ¿habrá 100 “personas” — 50 humanos y 50 agentes — en el mismo espacio compartido? Aunque yo tenga supervisión total sobre mi agente, ¿qué pasa si mi agente colabora con otros y accidentalmente accede a recursos que no debería? Ahora ese agente autónomo y con estado está manejando información de otros.

Aquí surge una contradicción fundamental. Para un empleado real, no puedes ver sus canales de Slack, ni acceder a su login, ni supervisar cada movimiento. Ellos son responsables de sus acciones y, en la vida real, no se les castiga por errores. Pero con los agentes, tú eres responsable de todo lo que hagan. Necesitas control total, sin privacidad.

Por eso hay un conflicto: quieres darles permisos, pero también necesitas poder ingresar a su cuenta en cualquier momento, por ejemplo, para revertir acciones si algo sale mal. Pero si puedes acceder a su cuenta, ¿cómo garantizas que puedan colaborar con otros y mantener la confidencialidad y seguridad? En realidad, los agentes son casi una extensión de ti mismo.

Aaron Levie también planteó un problema de seguridad aún más profundo: no sabemos cómo hacer que los agentes mantengan secretos. Si les dices “no reveles la información en la ventana de contexto X”, es muy difícil garantizarlo. Si todo puede entrar en la ventana de contexto, y tienen permisos para acceder a recursos, en teoría esa información puede filtrarse mediante técnicas de prompt injection.

¿Y qué significa eso? Que si tengo el email de tu nuevo agente, puedo enviarle correos y social engineering, mucho más fácil que con un humano. Es muy difícil que ese agente tenga acceso a documentos sensibles, como fusiones y adquisiciones.

Creo que ese es uno de los mayores obstáculos técnicos actuales para los agentes de IA. Hasta que no se resuelva, será difícil darles decisiones independientes y acceso a recursos. Seguirán siendo una extensión de los humanos, no entidades autónomas.

La ventaja de las startups: abrazar sin miedo a los agentes de IA

Una idea que me impactó mucho fue que la velocidad de difusión de las capacidades de IA será mucho más lenta de lo que muchos en Silicon Valley creen. La razón es que las startups y las grandes empresas enfrentan restricciones muy diferentes.

Aaron Levie dijo que las startups pueden construir desde cero sin los riesgos que discutimos, porque no tienen nada que perder. Es una trayectoria natural. Pero si vas a JPMorgan y preguntas cómo configurar NanoClaw (un agente hipotético) para automatizar procesos, verás una brecha enorme.

¿En qué consiste esa brecha? Las grandes empresas tienen 75 sistemas heredados que integrar, requisitos de cumplimiento estrictos, décadas de estándares de seguridad, mecanismos complejos de permisos. Tienen demasiado que perder. Si un agente de una startup tiene un problema, solo será una anécdota o un capítulo de Silicon Valley. Pero si un banco grande tiene una brecha de datos de clientes, puede ser un desastre que lleve a la quiebra.

Steven Sinofsky predice que las startups quemarán su capital, fingiendo que el costo no importa. Muchas grandes empresas se paralizarán por miedo y no harán nada. Mientras tanto, empleados comunes empezarán a comprar y usar esas herramientas por su cuenta, haciendo lo que las grandes no quieren gastar en hacer.

Algunas empresas, por sus circunstancias financieras, estarán dispuestas a arriesgarse y liderar en sus sectores, manteniendo la salud financiera. No habrá un miedo paralizante de que el CFO los eche, aunque sí errores normales.

Creo que esto generará una segmentación interesante en el mercado. Las medianas empresas que inviertan temprano y asuman riesgos podrán competir con las grandes. Tendrán recursos para invertir en IA, sin estar atadas a sistemas heredados ni a la aversión al riesgo.

También surgirán nuevos tipos de servicios. Imagina crear una agencia de marketing, consultoría o diseño arquitectónico basada completamente en agentes de IA, sin barreras de información, con todo el contexto necesario, y la capacidad de programar tareas en cualquier momento. Estas empresas serán disruptivas por un tiempo, hasta que las grandes puedan liberarse de sus ataduras.

El presupuesto de tokens: la nueva arena de gestión de proyectos

Una discusión sobre el presupuesto de tokens me pareció tanto realista como absurda. Aaron Levie dijo: “La discusión sobre el presupuesto de cálculo será una de las más locas en los próximos años.”

¿Y por qué? Porque los costos de cálculo representan entre el 14% y el 30% de los ingresos de cualquier empresa tecnológica pública. El costo de computación puede ser el doble o solo un 3% más que antes, pero esa diferencia puede afectar las ganancias por acción (EPS).

Steven Sinofsky dice que todavía no tenemos la respuesta, y que los CFO siempre quieren respuestas a preguntas que no saben responder. Wall Street los obliga a poner cifras y responsabilizarlos, y si fallan, los despiden. Es un ciclo que hemos visto en cada innovación tecnológica: ancho de banda, tubos de vacío, transistores, cantidad de programadores.

Pero Aaron Levie insiste en que esto es diferente. Tiene un buen punto: nunca antes cada usuario final en una organización tuvo la capacidad de activar recursos de forma tan flexible. Y en muchos casos, esa activación es completamente razonable.

Esto se asemeja a la transformación del inicio de los 2000, cuando pasamos de CapEx a OpEx, y luego a gastos ilimitados. Aaron recuerda que en el briefing de Box, los CFO decían: “No entiendes, somos una empresa agrícola, solo entendemos CapEx”, o “somos una compañía de OpEx, nos gusta la nube”. Las reglas contables realmente influyen en la adopción tecnológica.

Pero el tema del presupuesto de tokens es aún más granular. Como líder de ingeniería, ahora debes decidir: ¿debería mi equipo considerar el costo de cálculo en cada prompt? ¿Prefieres prompts largos o cortos? ¿Paralelizar? ¿Qué tolerancia tienes a desperdiciar tokens?

Aaron dice que ahora la postura debería ser gastar muchos tokens, porque eso significa explorar y probar cosas nuevas. ¿Debería un equipo estar feliz de correr 10 experimentos en paralelo, aunque desperdicien el 90% de los tokens? La idea es encontrar un camino exitoso, aunque sea costoso en tokens. ¿O deberías exigir un diseño perfecto antes de empezar?

Mientras grababan esta conversación, algunos estaban preocupados por los límites en el nuevo plan Max de Claude Code, que restringe los prompts a tres. Esto será un tema muy real hasta que podamos ampliar la capacidad de los centros de datos.

Pero comparto la visión a largo plazo de Sinofsky: este problema desaparecerá eventualmente. La clave será hacer cálculos al estilo Benioff: si pagas un millón de dólares al año a un vendedor, ¿cuánto vale esa herramienta? Si pagas X dólares a un ingeniero, esa herramienta en algún momento valdrá esa inversión.

Y la ley de los grandes números resolverá esto: con suficientes ingenieros usando recursos de cálculo, la economía se equilibrará. Estamos en una fase de transición: hace dos años, muchos pensaban que el gasto en IA sería solo un chatbot. Pero estaban equivocados, porque lo ven como un caso de uso específico, cuando en realidad es una transformación a nivel de plataforma.

El futuro de los sistemas SaaS: el valor de la capa de datos vuelve

Una discusión que me impactó fue sobre el futuro de los sistemas empresariales. Martin Casado señaló que los proveedores SaaS actuales no venden datos de líneas de negocio, sino conocimiento especializado y sistemas completos. Pero los agentes solo quieren comprar datos, tener acceso ilimitado a ellos, y eso no es su modelo de negocio.

Esto ha sido una tensión de largo plazo con sistemas como Workday o SAP: ¿cuánto acceso API permiten? Salesforce ha pasado por varias reestructuraciones de su plataforma. Es un problema técnico interesante: en un escenario donde se quiere acceder a datos, ¿qué significa que un sistema sea “system of record”?

Steven Sinofsky dijo claramente: “Es absurdo pensar en construir sistemas como SAP con vibe coding.” Todo el conocimiento en SAP no solo está en la base de datos, sino en la interfaz, en la lógica intermedia, en la forma en que se usa.

Pero Aaron Levie tiene otra visión. Cree que, con suficientes iteraciones, los agentes eventualmente serán responsables de elegir las herramientas que necesitan. Aunque no puedan reemplazar sistemas empresariales, en muchas generaciones de desarrollo, los agentes encontrarán obstáculos en el software y dirán: “Tienes que eliminar tu sistema heredado de HR, o no puedo automatizar ese proceso.”

Es una idea disruptiva. Imagina que, si la cantidad de agentes es 100 o 1000 veces la de humanos, y si esas situaciones se repiten, en última instancia tendrás que construir un stack de software para los agentes. Quizá algunos sistemas, como ciertos ERP, serán los últimos en resistir, pero todo lo demás estará ligado a qué tan bien pueden acceder a la información que necesitan para hacer su trabajo. La infraestructura de TI de la empresa debe estar diseñada para soportar a estos agentes.

Martin Casado hizo una distinción que comparto: a menudo se dice en abstracto “ahora estás vendiendo a los agentes” o “debes tener buenas APIs”. Pero eso está casi completamente equivocado. Los agentes son expertos en encontrar las mejores herramientas backend. No dirán “este interfaz es buena”, sino “el costo, la persistencia, la confiabilidad”. En realidad, poseen la inteligencia colectiva que usamos en esas plataformas.

Puso un ejemplo: cuando un agente elige una nube, usa criterios relevantes, no solo la interfaz. Como industria, estamos demasiado enfocados en esas interfaces y en el marketing, cuando en realidad deberíamos construir mejores sistemas, que serán los que los agentes elijan.

Creo que esa visión es muy profunda. En la era de los agentes, la calidad técnica será más importante que el marketing. Los productos con mejor base tecnológica destacarán, y los que solo se apoyan en ventas tendrán dificultades.

Mi reflexión: subestimamos la escala de esta transformación

Al terminar la conversación, lo que más me quedó fue la sensación de que Wall Street y toda la industria están usando un marco equivocado para entender el impacto económico de esta revolución. Aaron tiene razón: el mayor problema es que todos intentan estimar los beneficios económicos, pero su estimación del tamaño de la oportunidad está al menos una orden de magnitud equivocada.

Steven Sinofsky ejemplificó esto con la historia del PC. La gente pensaba que el consumo de MIPS (millones de instrucciones por segundo) era un mercado limitado, y no imaginaba qué pasaría si colocáramos esas MIPS en cada escritorio. Nadie pensó en que el software no solo vendría con los MIPS, sino que Bill Gates y Paul Allen vieron la oportunidad de vender software por separado.

Lo mismo ocurrió con la computación en la nube. La gente pensaba que solo trasladaríamos servidores (unas 60,000 al año) a centros de datos externos, sin prever que la demanda crecería mil veces.

Con la IA pasa algo similar. Los modelos de Wall Street consideran un ingreso fijo: creen que las empresas gastarán una cantidad fija en IA cada año. Pero cuando llegó la computación en la nube, Salesforce enfrentó un problema: su negocio de CRM genera 2 mil millones de dólares anuales, que involucra servidores, licencias Oracle, despliegues y consultoría. Pero si los vendedores se registran individualmente, sin fricciones, esa cantidad puede crecer exponencialmente.

Creo que los agentes de IA generarán una expansión de mercado aún mayor. Cuando cada trabajador del conocimiento tenga uno o más agentes, el uso de software, procesamiento de datos y consumo de cálculo crecerá exponencialmente. No es un juego de suma cero: no solo transferimos tareas humanas a agentes, sino que creamos nuevas posibilidades y valor.

Aaron Levie mencionó que, en su experiencia con unas 240 empresas de infraestructura en los últimos seis meses, el crecimiento ha sido casi exponencial. ¿Por qué? Porque ahora hay más software que nunca. Con más agentes y más cálculo, el consumo se disparará. Cuando cada teléfono tenga IA en el dispositivo, y eso sea la norma, el uso se multiplicará por mil millones.

Creo que estamos en un “momento transistor”, como Steven Sinofsky explicó con el ejemplo de los tubos de vacío. Hubo un tiempo en que se pensó que todo Dakota sería un almacén de tubos de vacío, solo para reemplazarlos por transistores. Lo mismo pasará con los tokens.

Quizá los tokens sean como los MIPS de IBM: se venden más a menor precio, pero se sigue cobrando por MIPS hasta que alguien nota que la curva de costos está bajando, porque fabricar MIPS se vuelve más barato que cobrar por ellos. Lo mismo sucederá con los tokens.

Pero en el corto plazo, veremos caos e incertidumbre. Las empresas lucharán por cuánto invertir, cómo controlar costos y gestionar riesgos. Las startups apostarán con audacia y avanzarán rápido. Habrá fracasos y éxitos. Pero a largo plazo, la dirección está clara: el software debe construirse para agentes, las APIs serán más importantes que las interfaces, la calidad del sistema será más relevante que el marketing, y los costos de cálculo seguirán bajando mientras el uso se dispara exponencialmente.

No estamos en una simple actualización de herramientas, sino en una transformación radical del paradigma de cálculo. Las empresas y personas que entiendan esto y actúen en consecuencia definirán el panorama tecnológico de la próxima década. Quienes sigan pensando con viejos marcos, probablemente se queden atrás.

Esta revolución acaba de comenzar.