Andrew Ng: Observabilidad y barreras protectivas para IA empresarial

Andrew Ng, fundador de DeepLearning AI y figura destacada en la evolución del desarrollo de inteligencia artificial (IA), enfatizó hoy durante un diálogo informal en VB Transform sobre la importancia de observabilidad y barreras protectivas en el proceso empresarial. Sin embargo, advirtió que implementar estas medidas desde el inicio podría contrarrestar los objetivos innovadores.

Ng propuso una estrategia denominada "Sandbox first". Esta metodología sugiere a las empresas crear entornos de prototipado para desarrollar proyectos AI rápidamente. Una vez que un concepto demostró viabilidad, se deben invertir recursos en observación y barreras regulatorias específicas.

La directora general mencionó: "El rol importante de la observabilidad, seguridad y barreras debe ser implementado posteriormente". Explicó que a menudo los equipos empresariales necesitan obtener autorización por parte de múltiples altos ejecutivos para explorar nuevas ideas.

Las empresas no pueden permitirse innovaciones aleatorias sin control. Ng señaló, pero añadió: "Esto también podría frenar la innovación". Por lo tanto, sugirió que los sandboxes ofrecen una solución adecuada al problema de talento y barreras regulatorias.

Los sandboxes permiten a los equipos de desarrollo iterar con información privada limitada. Así las organizaciones pueden invertir solo en proyectos funcionales después de validarlos inicialmente, añadiendo observabilidad e implementando barreras protectivas cuando sea necesario.

No es infrecuente que empresas establezcan zonas sandbox para AI agentes. Estas áreas permiten innovación manteniendo la seguridad y evitando información sensible no deseada al público. La metodología también permite creatividad total durante el prototipado.

La observabilidad está convirtiéndose en un tema clave conforme más aplicaciones de IA pasan a producción realizada por las empresas. Salesforce, por ejemplo, actualizó su biblioteca Agentforce 3 para mejorar la visibilidad del rendimiento y facilitar interoperabilidad con estándares como MCP.

Para Ng, velocidad e innovación son intrínsecamente vinculadas en el contexto empresarial. Ello se relaciona directamente con herramientas disponibles actualmente que permiten a los desarrolladores idear y crear proyectos AI más rápidamente.

• Herramientas de IA para acelerar: Ng destacó plataformas como Windsurf o GitHub Copilot, mencionando que estas reducen significativamente el tiempo de desarrollo. Ejemplos concretos mostraron una disminución en los plazos y personal necesario.
• Precio del talento: Ng señaló que la escasez es un factor crítico para muchas empresas al implementar IA. La buena noticia, según el experto, es que las tarifas son mucho más bajas en comparación con los modelos de base.

No obstante, reconoció una limitante: la falta actual de suficiente talento experimentado para construir proyectos AI a gran escala dentro del ámbito empresarial. Por eso, Ng volvió a su solución inicial: permitir que equipos entrenen y validen conceptos en entornos sandbox.

📌 Fuente: VentureBeat