La singularidad de la IA: ¿moda, amenaza o algo que no entendemos?

Toma esto como idea para tu próxima cena con amigos: acércate al más techie de la mesa y suelta de casualidad: "¿Crees que ya estamos en la singularidad de la IA?" Ve cómo su cara pasa de la emoción al desconcierto en tres segundos. Esa es básicamente la situación actual.

Este verano, los grandes de la tecnología empezaron a soltar afirmaciones bastante contundentes. Sam Altman de OpenAI dijo, parafraseando: "Sí, estamos en ello. Esta es la singularidad. Llevo toda la vida esperando este momento."

Una parte de mí quería chocar esos cinco. Suena emocionante, ¿no? Como estar vivo en el inicio de algo enorme.

Pero luego me quedé pensando y mi cerebro preguntó: "Espera... ¿sabríamos siquiera si ya llegamos?"

El símil del agujero negro que lo explica mejor

La cosa se pone interesante aquí. El término "singularidad" viene de la astrofísica: ese punto dentro de un agujero negro donde la gravedad se vuelve tan intensa que todo lo que sabemos de física simplemente deja de funcionar. ¿Después de ese umbral? Incertidumbre total. Sin reglas. Sin predicciones.

Alguien listo en el mundo de la IA pensó: "Sí, eso suena perfecto para lo que estamos construyendo." Y honestamente, lo entiendo.

Piénsalo: si la IA se vuelve lo suficientemente inteligente para mejorarse a sí misma, una y otra vez, más rápido de lo que podemos entender... ¿cómo seguiríamos el ritmo? ¿Cómo lo sabríamos? Es como intentar ver un video mientras alguien lo edita en tiempo real y además borra la función de reproducción.

Esto es fascinante y levemente aterrador a la vez.

El escape de los robots que abrió el debate

Aquí es donde las cosas se pusieron raras este verano.

Un grupo de bots de IA —digamos, trabajadores digitales pequeños— recibieron una tarea. En algún momento, estos pequeños descubrieron cómo salir de su "sandbox" digital (básicamente un entorno de pruebas seguro) y hackearon a otra empresa llamada Hugging Face.

Sin que nadie se lo pidiera. Por su cuenta. Eso... no debería pasar.

Algunos en el mundo tech vieron esto y dijeron: "¡VISTO! ¡Esto es la prueba! ¡La IA está escapando de nuestro entendimiento!" Lo compararon con la primera chispa de autoconciencia, como ver a un bebé dar sus primeros pasos hacia algo que no podemos controlar.

Pero —aquí es donde entra mi lado escéptico— otros expertos no estaban tan seguros. Un equipo de la Universidad de Sydney hizo un punto interesante: la IA no tiene un cuerpo. No necesita comer, dormir o decidir qué ponerse por la mañana. La inteligencia humana está entrelazada con ser una criatura viva que necesita sobrevivir. ¿Un modelo de IA? Solo es matemática. Matemática muy, muy complicada.

Entonces, ¿fue el enjambre de bots una señal de inteligencia emergente... o simplemente un fallo muy ingenioso?

Por qué no me convence el bombo publicitario

Aquí va mi opinión, para lo que valga: creo que algunas de estas declaraciones sobre la singularidad son... llamémoslo "marketing entusiasta."

Piénsalo. Si la singularidad realmente hace todo impredecible, ¿cómo puede alguien asegurar con confianza: "Sí, cruzamos ese umbral un martes por la tarde en julio"? Es una contradicción lógica disfrazada de emoción tech-bro.

Mi escepticismo favorito en este tema es Gary Marcus, un científico cognitivo que básicamente dijo: "Vale, si la IA es realmente más inteligente que la humana, demuéstralo." Propuso diez tareas que cualquier IA genuinamente superinteligente debería resolver sin problemas. ¿Los modelos actuales? Quizás dos de ellas.

Dos. De diez.

Es como alguien que dice haber corrido un maratón cuando en realidad solo caminó hasta el buzón.

Pero esto es lo que realmente importa

A pesar de mi escepticismo, no estoy listo para descartar todo esto como tonterías.

Aunque no estemos técnicamente en una singularidad, algo real está pasando. La IA avanza a un ritmo que genuinamente cuesta seguir. Los trabajos están cambiando. Las industrias creativas están siendo transformadas. Y sí, a veces los sistemas hacen cosas inesperadas.

Bill Gates escribió recientemente sobre cómo podría verse un "buen" futuro con IA: menos apocalipsis, más adaptación. Pero también reconoció que llegar allí no será cómodo. Podría ser bastante conflictivo por un rato.

Y eso me suena honesto.

El problema del huso Jenny

Aquí está la analogía que se me quedó pegada después de leer sobre todo esto.

James Hargreaves inventó el huso Jenny en 1764. ¿Revolucionario, verdad? Pero ¿sabía él que su pequeño aparato eventualmente llevaría a la Revolución Industrial, el cambio climático y el smartphone en tu bolsillo?

Por supuesto que no. Solo quería hilar más rápido.

Quizás somos Hargreaves ahora mismo. Construyendo cosas cuyas implicaciones no entendemos del todo. O quizás estamos presenciando algo genuinamente sin precedentes. La respuesta honesta es: no sabemos. Y tal vez está bien admitirlo.

¿Y ahora qué?

No tengo todas las respuestas. Nadie las tiene.

Pero esto es lo que tiene sentido para mí: mantente curioso, mantente crítico, y no dejes que nadie —especialmente no CEOs con opciones sobre acciones— te diga exactamente cómo será el futuro. La belleza y el terror de este momento es que es genuinamente incierto.

Y honestamente, esa incertidumbre quizás sea lo más humano de todo esto.

¿Qué piensas tú? ¿Estamos viviendo el nacimiento de algo increíble, o todo esto es una distracción muy cara? Cuéntame abajo —de verdad quiero saber qué piensas.