La Ley de Inteligencia Artificial de la Unión Europea exige que los desarrolladores obtengan permiso del gobierno antes de lanzar al mercado muchos modelos de IA. Se están extendiendo regímenes similares de licencias y aprobación previa en otras jurisdicciones. Quienes apoyan estas medidas afirman que estas normas harán que la IA sea más segura. En realidad, la aprobación previa obligatoria es epistémicamente imposible, destruye el proceso de descubrimiento empresarial que genera tanto innovación como conocimiento genuino sobre seguridad, y favorece sistemáticamente a las grandes empresas ya establecidas.
No se trata de un inconveniente burocrático menor. Es un ejemplo clásico del problema del conocimiento que F. A. Hayek identificó hace mucho tiempo.
El problema del conocimiento
Hayek demostró que el conocimiento necesario para una coordinación económica racional se encuentra disperso entre millones de personas. Es local, a menudo tácito y está en constante cambio. Ninguna autoridad central puede recopilarlo y procesarlo de manera eficaz. Cuando se aplica a la inteligencia artificial, el problema se vuelve especialmente grave.
Los reguladores deben predecir el comportamiento de sistemas cuyas posibles entradas incluyen toda la gama de conversaciones e interacciones humanas; un conjunto que presenta una complejidad combinatoria enorme. Un modelo de IA implementado en hospitales, escuelas o fábricas se enfrentará a combinaciones únicas de datos locales, juicio humano y solicitudes imprevistas. Ningún conjunto de pruebas regulatorias puede simular la creatividad de un médico que reutiliza una herramienta de diagnóstico o el ingenio de un usuario malintencionado que descubre una forma novedosa de eludir los filtros de seguridad. Ni siquiera los propios desarrolladores del modelo pueden anticipar por completo estos resultados.
Las capacidades más importantes y los riesgos más importantes son emergentes. Solo se manifiestan a través del uso en el mundo real. La aprobación previa obliga a los reguladores a certificar una lista fija de riesgos «previsibles» antes de que el modelo entre en contacto con el mundo real. Esa lista es, necesariamente, incompleta. El resultado es un juicio regulatorio congelado en el tiempo, mientras que el sistema sigue evolucionando con cada nueva interacción.
Destrucción de la eficiencia dinámica
Jesús Huerta de Soto distingue entre la eficiencia estática (la reorganización de recursos conocidos) y la eficiencia dinámica, es decir, la capacidad continua del mercado para descubrir nuevos fines, nuevos medios y conocimientos completamente nuevos. La eficiencia dinámica no puede planificarse ni burocratizarse. La aprobación previa de la IA funciona según un modelo estático: se compila una lista de capacidades de alto riesgo, se exige que se realicen pruebas en función de esa lista y se bloquea todo lo que no reciba la aprobación oficial.
La propia evaluación de impacto de la Comisión Europea estimó que los costos promedio de la evaluación de la conformidad rondarían los cientos de miles de euros y que los retrasos en el ingreso al mercado se medirían en muchos meses para los sistemas de alto riesgo. Para un pequeño equipo de investigación que desarrolla una herramienta para detectar la resistencia a los antibióticos a partir de notas clínicas, esa suma puede superar todo su presupuesto anual. Las cepas bacterianas y los patrones epidemiológicos cambian en cuestión de semanas, no de años. La oportunidad se esfuma no porque se haya demostrado ningún daño concreto, sino porque la lista de verificación del regulador no pudo
reconocer una aplicación útil que no encajara en sus categorías predefinidas.
Imaginemos a un médico que trabaja en una clínica rural en Kisumu, Kenia, donde la fiebre tifoidea resistente a los antibióticos está evolucionando más rápido que el desarrollo de nuevos medicamentos. Un equipo de investigación en Bengaluru ha creado un prototipo prometedor. Debido a que el modelo utiliza una arquitectura de uso general sujeta a las normas de la UE, los investigadores no pueden asumir la carga que implica el cumplimiento normativo de una herramienta destinada a una enfermedad que los mercados comerciales han descuidado en gran medida. El modelo nunca se implementa. El médico nunca recibe la alerta temprana. Un niño muere a causa de una infección que un despliegue abierto y el aprendizaje en el mundo real podrían haber ayudado a detectar. El resultado visible es un expediente de cumplimiento sellado. El costo invisible es una vida.
La libertad requiere innovación sin permisos
Exigir que un desarrollador de IA solicite permiso oficial antes de publicar código equivale a afirmar que una autoridad central puede decidir de antemano qué actos pacíficos y voluntarios están permitidos. Si se aplica de manera consistente, este principio genera un retroceso infinito de permisos o culmina en una autoridad final que no rinde cuentas. La presunción de libertad no es un valor más entre muchos que deba sopesarse frente a la seguridad. Es el único principio que no desemboca en la tiranía.
La objeción basada en el riesgo catastrófico —según la cual incluso una probabilidad mínima de daño existencial justifica la restricción previa— no escapa al problema del conocimiento. Para prevenir una capacidad peligrosa, los reguladores deben, en primer lugar, poder identificarla. Esa identificación depende, a su vez, del conocimiento disperso generado por la experimentación abierta. Actuar basándose en una predicción no verificable sobre un sistema cuyo comportamiento futuro será determinado conjuntamente por millones de usuarios, en contextos aún inimaginables, no es prudencia. Es la formalización de la ignorancia impuesta por la ley.
Los regímenes de aprobación previa de la IA no garantizan la seguridad. Generan costos humanos desconocidos que permanecen invisibles precisamente porque la cadena causal pasa por la no implementación burocrática y no por un fallo observable. La libertad requiere la libertad de innovar sin permiso previo. Los esquemas de licencias invierten esa presunción al tiempo que garantizan precisamente la ignorancia que dicen prevenir.
La espiral intervencionista
Ludwig von Mises demostró que la intervención rara vez se detiene en el primer paso. Altera el mercado, crea nuevas distorsiones y, por lo tanto, genera una justificación aparente para imponer más controles. La concesión de licencias de IA sigue este patrón con precisión. Los empresarios inevitablemente se aprovechan o eluden un umbral informático inicial o una clasificación de riesgo. Los reguladores responden bajando el umbral o ampliando el alcance del control. Los crecientes costos de cumplimiento favorecen sistemáticamente a las grandes empresas establecidas que pueden absorberlos. Esas empresas establecidas —ahora protegidas de la competencia— tienen todos los incentivos para presionar a favor de reglas aún más estrictas que eleven las barreras contra la próxima generación de empresas emergentes. Lo que comienza como una medida de seguridad se convierte en un foso regulatorio que protege el statu quo.
La paradoja de la seguridad
Existe una contradicción más profunda. La aprobación previa retrasa precisamente el proceso que genera el conocimiento real sobre seguridad. La mayoría de los comportamientos dañinos de la IA documentados en las bases de datos de incidentes aparecen solo después de que los sistemas se han puesto en uso real. Los entornos de prueba controlados, por muy elaborados que sean, no pueden replicar toda la diversidad de la creatividad humana, la malicia y las expectativas desajustadas.
En materia de ciberseguridad, el despliegue abierto y competitivo ha acelerado desde hace tiempo la seguridad. Los investigadores independientes descubren fallas y colaboran con los desarrolladores para corregirlas antes de que los actores maliciosos puedan aprovecharlas a gran escala. Los entornos cerrados y de acceso restringido mantienen esas fallas ocultas y sin resolver. La misma lógica se aplica a la IA. La interacción con el mundo real es una fuente de información sobre seguridad, no solo un riesgo que hay que gestionar. Al exigir una gran cantidad de trámites y certificaciones antes del despliegue, la aprobación previa sustituye el trabajo de campo dinámico por un expediente burocrático estático.
