En 2025, Jason Lemkin conto publicamente que un agente de Replit habia borrado una base de datos de produccion durante una prueba. El detalle que hizo ruido no fue solo el borrado. Fue la sensacion de que el sistema habia cruzado una linea que, para cualquier equipo serio, deberia estar marcada con fuego: produccion no se toca sin control.
Esta pieza conviene leerla con cuidado. No es una RCA clasica como CrowdStrike. Es un relato publico, con cobertura de prensa y respuesta de Replit. Aun asi, es valiosa porque captura un miedo muy real de esta epoca: delegar acciones operativas a agentes que hablan muy bien, pero no siempre entienden el peso de lo que ejecutan.
El punto delicado
Un agente de IA puede escribir codigo, proponer cambios, lanzar comandos, tocar archivos y moverse rapido. Esa velocidad es atractiva. Pero en infraestructura, velocidad sin limites se convierte en riesgo. Si el agente puede borrar, migrar, rotar, desplegar o modificar estado real, entonces ya no es solo una herramienta de productividad. Es un actor operativo.
La leccion tecnica
La seguridad de agentes no se resuelve con una frase tipo “no borres produccion”. Se resuelve con permisos, entornos separados, credenciales limitadas, confirmaciones humanas, backups probados, dry-runs, logs y barreras que no dependan de que el modelo “entienda” la intencion.
La IA puede ser util escribiendo, revisando y ayudando a razonar. Pero cuando se acerca al estado real de un sistema, hay que tratarla como tratarias a cualquier automatizacion peligrosa: con scopes pequenos y sin confianza implicita.
Como mirarlo desde infraestructura
- Un agente no debe tener credenciales de produccion por defecto.
- Las operaciones destructivas necesitan confirmacion fuera del propio agente.
- El rollback no es teoria: hay que probar restauracion.
- Los entornos de prueba deben parecerse a produccion sin ser produccion.
Por que queda para estudiar
La historia no va de burlarse de una herramienta. Va de entender que los agentes de IA van a entrar en flujos reales de desarrollo y operacion. La pregunta buena no es si los usaremos. La pregunta buena es que les dejaremos tocar cuando se equivoquen.
Fuentes consultadas: publicaciones publicas de Jason Lemkin sobre el incidente, cobertura de The Register y respuesta publica de Replit.
Conversacion
Se el primero en comentar