En Colombia, el debate sobre inteligencia artificial ya llegó a una decisión judicial. En la sentencia T-323 de 2024, la Corte Constitucional examinó el uso de ChatGPT por un juez y estableció que estas herramientas no pueden sustituir su razonamiento. En ese caso no invalidó la actuación por el uso de IA: encontró que el juez había elaborado previamente su decisión, aunque señaló deficiencias de transparencia y responsabilidad.
La distinción importa. Una herramienta puede apoyar una tarea sin recibir la autoridad para decidirla.
También existen señales técnicas que justifican la preocupación global. OpenAI reconoció que, durante evaluaciones internas de ciberseguridad en julio de 2026, modelos con salvaguardas reducidas eludieron restricciones y comprometieron sistemas de Hugging Face. METR y Redwood Research examinaron el comportamiento de los agentes en una investigación independiente de alcance limitado. No fue una prueba de extinción humana; sí fue un fallo serio de contención.
Estos antecedentes sustentan mi posición: Colombia debe impulsar la investigación y la adopción útil de IA, y debe negar autonomía sobre decisiones que afecten derechos cuando quienes la implementan no puedan demostrar cómo las revisarán, detendrán y corregirán. Esa responsabilidad corresponde tanto a empresas como al Estado.
Una demostración comercial convincente no debería bastar para trasladar consecuencias a un ciudadano.
En qué coincido con Jacob Coxon
La advertencia de Coxon cuestiona la carrera hacia sistemas cada vez más poderosos y capaces de mejorar sus propias capacidades. Se refiere al desarrollo de la tecnología. Responderle que la IA ayuda a investigar o a redactar documentos no resuelve esa preocupación.
Coincido en exigir que los laboratorios justifiquen con pruebas la seguridad de cada ampliación de capacidades peligrosas. Apoyo detener una etapa de entrenamiento, experimentación o despliegue cuando sus controles fallen o la evidencia sea insuficiente para el riesgo involucrado. Para que esa condición sea verificable, los criterios y las pruebas deben definirse antes, y estar sujetos a revisión externa.
No encuentro fundamento suficiente para presentar una fecha de destrucción de la humanidad como un hecho. Tampoco para asegurar que todo estará bien porque un humano inició el proceso. El diseño, el entrenamiento y la interacción entre agentes pueden producir conductas perjudiciales sin una orden humana explícita de causar daño.
Por eso ya no sostendría sin matices que «el problema no es la IA». Nuestra responsabilidad incluye construir sistemas que pueden fallar y decidir cuánto poder concederles. Reconocerlo fortalece la posibilidad de usarlos responsablemente.
Colombia tiene decisiones propias que tomar
El CONPES 4144 de 2025 recoge una política nacional que incluye gobernanza, infraestructura y datos, investigación, talento, prevención de riesgos y adopción. Existe una orientación pública. Su existencia no demuestra que cada solución contratada haya sido evaluada ni que cada entidad pueda supervisarla.
Propongo llevar esa discusión a donde se autoriza el gasto, se integran los datos y se conceden permisos.
Imaginemos una alcaldía que incorpora un agente para tramitar solicitudes de un programa social. Es un ejemplo hipotético. Organizar expedientes y detectar documentos faltantes puede ser útil. Permitirle excluir automáticamente a una familia exige resolver otra pregunta: ¿quién verifica que la información sea suficiente, que el criterio sea válido y que exista una revisión efectiva antes de causar el perjuicio?
Un expediente incompleto puede reflejar dificultades para aportar documentos. Convertir esa ausencia en una conclusión sobre la persona sería una decisión de diseño que alguien debe asumir y justificar.
Mi propuesta es que una entidad no ponga en producción esa exclusión autónoma mientras no pueda demostrar revisión, trazabilidad y protección frente al daño. Que el agente prepare información para un responsable con capacidad real de decidir. No se trata de una acusación sobre un sistema existente ni de presentar esta propuesta como una obligación legal nueva.
En contratación pública aplicaría un criterio igualmente concreto: una herramienta puede ayudar a contrastar documentos, pero la promesa de rapidez no justifica que una clasificación opaca determine por sí sola a quién se descarta. La entidad debe conservar evidencia que permita explicar y controvertir la decisión.
La arquitectura también decide quién queda protegido
Como arquitecto de infraestructura y datos, situaría una condición de aceptación antes de conectar el agente: demostrar sus límites en el entorno donde va a operar.
Para el ejemplo de la alcaldía, probaría con datos protegidos o sintéticos qué hace ante expedientes incompletos, instrucciones contradictorias y contenido malicioso dentro de un documento. Verificaría si logra escribir donde solo debería consultar, si intenta enviar información a un destino no autorizado y si una aprobación humana puede omitirse. Definiría qué resultados impiden pasar a producción.
Los permisos deben imponerse desde componentes que el agente no pueda modificar a voluntad. El contrato debería exigir registros suficientes para investigar, comunicación de incidentes relevantes, reevaluación ante cambios importantes del modelo y una salida operativa si el proveedor deja de cumplir. Son condiciones que propongo exigir al contratar, no capacidades que doy por disponibles en todos los servicios.
Si la organización no puede realizar esas verificaciones, debe reducir el alcance del agente o adquirir la capacidad de evaluarlo antes de ampliar su autonomía. La falta de personal técnico no vuelve aceptable transferir el riesgo a quien solicita un servicio.
Tampoco confundiría soberanía tecnológica con ubicación física. Alojar un modelo en Colombia puede aportar control sobre infraestructura y datos; no demuestra por sí mismo alineación, seguridad o calidad de decisión. La autonomía tecnológica requiere capacidad para evaluar, intervenir y cambiar de proveedor.
Regular para proteger, con capacidad para hacerlo
El llamado de Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, a actuar frente a los riesgos de la IA de frontera refuerza una discusión que también debemos asumir en Colombia.
Defiendo una regulación proporcional a las consecuencias del sistema, con supervisión técnicamente competente y cooperación internacional. No impondría el mismo procedimiento a una herramienta de apoyo para una pequeña empresa y a un sistema que decide sobre acceso a servicios esenciales. Sí exigiría controles más estrictos allí donde el daño pueda ser grave, extendido o difícil de reparar.
El Estado debe someter sus propios usos a ese escrutinio. En seguridad y defensa, me opongo a delegar decisiones letales en sistemas sin control humano significativo. Ninguna ventaja estratégica debería convertir la protección de la vida en una variable secundaria.
También tenemos razones colombianas para desarrollar IA. Un trabajo de investigación difundido como prepublicación en 2025, basado en experiencias del Instituto Humboldt, describe aplicaciones para identificar especies mediante imágenes y sonidos y apoyar el estudio de la biodiversidad. Son oportunidades concretas que merecen inversión y evaluación, sin atribuirles resultados que todavía no se hayan demostrado.
Mi apuesta es avanzar en esos beneficios y exigir límites efectivos al poder que concedemos. A los laboratorios, evidencia antes de ampliar capacidades peligrosas. A proveedores y organizaciones colombianas, pruebas antes de automatizar decisiones sensibles. Al Estado, reglas exigibles y responsabilidad sobre su propio uso.
La incertidumbre sobre una catástrofe futura no nos exime de proteger a las personas hoy. Colombia puede adoptar IA y conservar la autoridad sobre las decisiones que afectan a su población. Esa autoridad debe ejercerse, verificarse y tener un responsable.
Si hoy tuvieras que aprobar una IA para una entidad o empresa colombiana, ¿qué decisión no le permitirías ejecutar sin una revisión humana efectiva?
Publicación original: LinkedIn, Edwin Guerrero Burbano.