Desarolladores piden poner freno de emergencia a la inteligencia artificial

En marzo de 2023 ocurrió algo inusual en Silicon Valley. Un grupo de investigadores, empresarios y académicos que llevaban años impulsando el desarrollo de la inteligencia artificial pidió exactamente lo contrario: bajar la velocidad. La carta abierta del Future of Life Institute solicitó una pausa de seis meses en el entrenamiento de sistemas más avanzados que GPT-4, argumentando que la carrera tecnológica se estaba acelerando más rápido que nuestra capacidad para comprender sus consecuencias. [futureoflife.org], [spectrum.ieee.org]

No era una protesta de activistas antimodernistas ni de ciudadanos alarmados. Muchos de los firmantes habían dedicado su vida profesional a construir estas herramientas. La inquietud no surgía de la ignorancia, sino del conocimiento.

Durante años, las advertencias sobre la inteligencia artificial sonaron como temas películas de ciencia ficción. Ahora parecen formar parte de las reuniones de directorio, de los debates regulatorios y de las discusiones familiares. La pregunta ya no es si la inteligencia artificial transformará la vida cotidiana. La pregunta es si podemos mantener el control del ritmo de esa transformación.

Uno de los momentos que cambió la conversación fue la aparición de modelos capaces de producir textos, imágenes y videos prácticamente indistinguibles de los creados por humanos. De pronto, una fotografía dejó de ser necesariamente una prueba de que algo ocurrió. Una grabación de voz podía fabricarse en minutos. Un video podía mostrar a una figura pública diciendo algo que jamás dijo.

Las preocupaciones no tienen que ver únicamente con una hipotética superinteligencia futura. Son mucho más terrenales. Los sistemas actuales ya han demostrado una capacidad extraordinaria para generar desinformación a gran escala, automatizar tareas intelectuales y producir errores convincentes. Los especialistas tienen incluso un término para ello: “alucinaciones”. La máquina no sabe que está equivocada. Simplemente responde con la misma seguridad cuando tiene razón que cuando inventa un dato.

Geoffrey Hinton, uno de los investigadores considerados padrinos de la inteligencia artificial moderna, sorprendió al mundo cuando abandonó Google para hablar con mayor libertad sobre los riesgos de la tecnología que ayudó a desarrollar. Su preocupación no se limitaba al mercado laboral o a las noticias falsas. Temía que los sistemas futuros pudieran adquirir capacidades que los humanos no comprendan del todo. En una entrevista resumió el problema de forma sencilla: por primera vez podríamos estar creando inteligencias más capaces que nosotros mismos.

Hay ejemplos más pequeños, pero igual de preocupantes.

En laboratorios de investigación, modelos avanzados han mostrado habilidades no previstas por sus creadores. Algunos resolvieron tareas para las que nunca fueron entrenados específicamente. Otros aprendieron a escribir código, resumir información o interpretar imágenes con una eficacia que sorprendió incluso a los ingenieros que los construyeron. Lo extraordinario no fue que funcionaran. Fue que nadie esperaba que funcionaran tan bien.

Los defensores de la ralentización suelen recurrir a una analogía histórica. Cuando apareció la energía nuclear, los gobiernos no respondieron construyendo reactores a la velocidad máxima posible. Crearon organismos de supervisión, protocolos de seguridad y acuerdos internacionales. El argumento es que una tecnología capaz de alterar la economía, la información y la seguridad global merece un nivel similar de precaución.

Los críticos responden que frenar el desarrollo es poco realista. Si una empresa se detiene, otra continuará. Si un país reduce la velocidad, otro podría aprovechar la ventaja. Además, señalan que la inteligencia artificial ya está ayudando a desarrollar medicamentos, mejorar diagnósticos médicos, optimizar redes eléctricas y acelerar investigaciones científicas.

Esa tensión explica por qué el debate se ha vuelto tan intenso. Casi nadie propone apagar las máquinas. Lo que se discute es algo más complejo: quién establece los límites y cuándo.

La paradoja es que la inteligencia artificial ha llegado a un punto donde inspira simultáneamente admiración y preocupación. Nunca había sido tan útil. Nunca había parecido tan prometedora. Y quizá por eso mismo nunca había generado tanta cautela.

Los llamados a reducir la velocidad no surgen del miedo a una máquina malvada escondida en un laboratorio. Surgen de una observación más sencilla. Durante décadas, la humanidad avanzó bajo la suposición de que siempre comprendería las herramientas que construía. La inteligencia artificial es la primera tecnología importante que ha puesto esa certeza en duda.

Y una vez que esa duda aparece, resulta difícil ignorarla.