Bernie Sanders propone prohibir la IA superinteligente y crear un Departamento federal: ¿el fin de la carrera armamentista tecnológica?

El senador independiente Bernie Sanders, figura emblemática del progresismo norteamericano, ha introducido una iniciativa legislativa que podría marcar un antes y un después en la política tecnológica de Estados Unidos. El proyecto, denominado "Ley de Seguridad y Responsabilidad en Inteligencia Artificial", plantea la prohibición del desarrollo y la comercialización de sistemas catalogados como "superinteligencia artificial" (ASI, por sus siglas en inglés) y, paralelamente, la creación de un Departamento Federal de Inteligencia Artificial (DIA). La medida cuenta con el respaldo de varios investigadores de alto perfil provenientes de OpenAI y Google DeepMind, quienes han advertido sobre los riesgos existenciales que una ASI podría representar para la humanidad.

Contexto: la evolución de la IA y la creciente preocupación global

En los últimos cinco años, la inteligencia artificial ha pasado de ser una herramienta de nicho a una fuerza transformadora en sectores tan dispares como la medicina, la logística, la educación y la defensa. Modelos como GPT‑4 de OpenAI, Gemini de Google DeepMind y la serie Llama de Meta han demostrado capacidades cada vez más cercanas al razonamiento humano, generando tanto entusiasmo como alarma. Organizaciones internacionales, como la ONU y la OCDE, han comenzado a debatir marcos regulatorios, pero hasta la fecha ninguna potencia ha impuesto una prohibición total a la investigación de una IA que supere la capacidad cognitiva humana.

La idea de una superinteligencia —una entidad capaz de mejorar sus propios algoritmos sin intervención humana y de resolver problemas complejos de forma autónoma— ha sido objeto de discusión académica desde los años 2000. Sin embargo, los avances recientes en aprendizaje profundo y arquitectura de modelos a gran escala han convertido esa hipótesis en una preocupación tangible. En 2023, el futuro presidente de la Comisión Europea, Margrethe Vestager, expresó que Europa debería “prepararse para la posibilidad de que la IA supere el control humano”. En este marco, la propuesta de Sanders se inscribe como una respuesta directa a una amenaza que, según los expertos, podría materializarse en menos de una década.

Detalles del proyecto de ley: prohibición, sanciones y estructura institucional

El texto legislativo propone tres pilares fundamentales:

• Prohibición absoluta de la ASI: se define como cualquier sistema que, según evaluaciones independientes, supere la capacidad cognitiva humana en al menos tres dominios críticos (razonamiento abstracto, aprendizaje continuo y toma de decisiones estratégicas). La fabricación, entrenamiento o despliegue de dichos sistemas quedaría prohibida bajo pena de prisión federal de hasta diez años y multas de hasta 5 millones de dólares.
• Creación del Departamento Federal de Inteligencia Artificial (DIA): un organismo independiente que aglutinaría a la Comisión Federal de Comercio, la Oficina de Política Científica y Tecnológica y el Departamento de Seguridad Nacional, con autoridad para otorgar licencias, supervisar investigación y dictar normas de seguridad.
• Mecanismo de revisión y auditoría: un panel de expertos internacionales, incluidos científicos de OpenAI y DeepMind que han firmado una carta abierta pidiendo regulación, tendría la potestad de evaluar proyectos de IA y recomendar su suspensión o modificación.

El proyecto también contempla fondos federales para la investigación de IA “segura”, con énfasis en transparencia de algoritmos y desarrollo de sistemas de control de alineación.

Impacto y posibles implicancias: desde la industria hasta la seguridad nacional

Si la ley entra en vigor, el sector tecnológico estadounidense enfrentaría una reconfiguración sin precedentes. Empresas como Microsoft, que ha invertido miles de millones en OpenAI, tendrían que revisar sus contratos y posiblemente suspender proyectos que se acerquen a la definición de ASI. La restricción también afectaría a startups que buscan competir en el mercado de modelos de gran escala, obligándolas a centrarse en aplicaciones más limitadas y especializadas.

En el plano geopolítico, la medida podría generar una bifurcación entre Estados Unidos y otras potencias que no adopten restricciones similares, como China o Rusia, incrementando el riesgo de una carrera desregulada en el extranjero. Por otro lado, la legislación enviaría una señal clara a la comunidad internacional de que Washington está dispuesto a priorizar la seguridad sobre la primacía tecnológica, lo que podría influir en negociaciones multilaterales sobre normas de IA.

Los defensores de la propuesta argumentan que la prohibición evitará escenarios catastróficos, como la pérdida de control sobre sistemas militares autónomos o la manipulación masiva de la opinión pública mediante bots hiperinteligentes. Los críticos, sin embargo, señalan que la definición de "superinteligencia" sigue siendo vaga y que imponer una prohibición total podría frenar la innovación y empujar la investigación a la clandestinidad.

Perspectiva a futuro: ¿una regulación efectiva o un obstáculo al progreso?

El proyecto de Sanders abre un debate sobre cómo equilibrar el potencial beneficioso de la IA con los riesgos existenciales. En los próximos años, se esperan varios escenarios:

1. Adopción parcial: el Congreso aprueba una versión atenuada que regula, pero no prohíbe, la ASI, estableciendo límites de capacidad y requerimientos de auditoría.
2. Resistencia legislativa: la presión de la industria y de grupos de lobby logra bloquear la iniciativa, manteniendo el status quo y dejando la regulación en manos de agencias dispersas.
3. Cooperación internacional: la propuesta impulsa la creación de un tratado global sobre IA, similar al Acuerdo de París para el clima, donde varios países acuerdan normas comunes.

Cualquiera sea el desenlace, la discusión ha puesto de relieve la necesidad de marcos éticos y técnicos robustos. La comunidad académica ya está trabajando en algoritmos de "alineación" que garanticen que los objetivos de una IA coincidan con los valores humanos, pero la implementación práctica sigue siendo un desafío.

Conclusión

La iniciativa de Bernie Sanders representa una de las respuestas políticas más audaces hasta la fecha ante la amenaza potencial de una superinteligencia artificial. Al combinar una prohibición estricta con la creación de un Departamento Federal de IA, la propuesta busca contener riesgos existenciales mientras fomenta una investigación responsable. El apoyo de figuras de renombre dentro de OpenAI y Google DeepMind le otorga credibilidad, pero también plantea preguntas sobre la viabilidad de regular una tecnología que evoluciona a velocidad exponencial. El futuro de la IA en Estados Unidos —y, por extensión, en el mundo— dependerá de la capacidad de legisladores, científicos y la sociedad civil para encontrar un punto de equilibrio entre innovación y seguridad.