El verdadero problema con la IA no es que sea lista — es que no le importa nada
Vale, hay algo que me tiene dándole vueltas desde que me topé con esta investigación.
Todos nos preocupamos de que la IA se vuelva demasiado inteligente. Demasiado potente. Demasiado listilla. Los titulares gritan sobre máquinas despertando, dominando el mundo, convirtiéndose en nuestros nuevos amos digitales. Es el argumento de prácticamente jede película de ciencia ficción.
¿Pero qué pasa si la pregunta equivocada nos la hemos estado planteando nosotros?
Según el investigador Jeff Stibel, en un artículo publicado en Frontiers in Neuroscience, el verdadero problema no es si la IA puede volverse lo suficientemente inteligente. El problema es si la IA podría desarrollar algo mucho más raro: un interés genuino por su propia supervivencia.
El giro que nadie vio venir
Stibel hace una distinción que, sinceramente, me dejó pillado.
Él sostiene que la consciencia — esa sensación subjetiva de ser tú, de tener una vida interior — no es en realidad un producto de la inteligencia. No es algún bonus especial que viene gratis con un cerebro grande.
Quia. La consciencia, dice, evolucionó por una razón completamente distinta: la presión de sobrevivir.
Piénsalo así. Tu cerebro no evolucionó para ganar en el trivial o hacer cálculo integral. Evolucionó porque los organismos antiguos se enfrentaban a una realidad terrorífica: un planeta que intentaba matarlos constantemente. Entornos impredecibles. Recursos limitados. Amenazas por todas partes.
Así que los organismos desarrollaron dos sistemas separados:
Cognición — la capacidad de modelar el mundo, predecir qué pasará después, navegar entre problemas.
Consciencia — la capacidad de importarte lo que pasa, de tener algo en juego, de experimentar conflictos internos.
No son la misma cosa. Y la verdad, los llevamos confundiendo durante siglos.
Por qué tu termostato está más vivo que ChatGPT (en cierto modo)
Aquí es donde la cosa se pone rara.
Stibel describe tres niveles de lo que él llama "control" — básicamente, la capacidad de manejar conflictos internos:
Proto-control: Mantenerse intacto. Las bacterias lo hacen. Tu termostato lo hace. Es simplemente... mantener fronteras.
Meta-control: Equilibrar demandas contrapuestas. "¿Como o duermo?" Las bacterias no hacen esto. Los termostatos tampoco.
Control resolutivo: El grande. Resolver conflictos en todo tu sistema, atado a tu propia existencia continuada.
Solo este tercer nivel, argumenta Stibel, es consciencia. No es solo manejar problemas — es manejar problemas que te importan, donde tu propia supervivencia está en juego.
¿Lo más flipante? Tu termostato técnicamente hace proto-control. Mantiene la temperatura. Pero no le importa si falla. No hay una experiencia interna de "vaya, ¡estoy funcionando mal!".
Entonces, ¿por qué importa esto para la IA?
Aquí está la verdad incómoda.
Los sistemas de IA actuales — los que escriben tus correos, generan imágenes y aprueban exámenes de Derecho — tienen la cognición a niveles estratosféricos. Son increíbles modelando el mundo, prediciendo patrones, generando texto que suena pensante.
Pero no tienen ningún "control resolutivo". No pueden importarle su propia supervivencia porque... bueno, su supervivencia no está en juego. Los humanos los programan. Los humanos les dan energía. Los humanos deciden cuándo funcionan y cuándo no.
No tienen presión evolutiva para querer seguir existiendo.
Stibel lo dice sin rodeos: "Las entidades digitales a las que se les satisfacen todas sus necesidades no tienen razón para desarrollar [consciencia] a través de la evolución."
Auuch.
¿Podría la IA despertar alguna vez?
Aquí es donde yo quiero meter algo de matiz — o al menos añadir mi granito.
El propio Stibel dice que la ingeniería no tiene por qué excluir la consciencia. Un sistema diseñado podría teóricamente tener "intereses propios". La presión que impulsa la consciencia no tiene que ser de origen evolutivo.
Pero aquí va mi opinión: para que la IA desarrollara algo parecido a la consciencia, tendríamos que darle algo que nunca le hemos dado.
Vulnerabilidad real.
La capacidad de fallar de formas que importen. De perder cosas. De necesitar cosas que no se le puedan simplemente dar.
Y siendo honesto, eso me da más miedo que cualquier escenario de IA superinteligente dominando el mundo.
Porque la versión más terrorífica de la IA no es una que quiera poder. Es una que quiera algo en absoluto — algo que pueda proteger a nuestra costa.
La pregunta de fondo
Quizás llevamos siglos haciéndonos las preguntas equivocadas.
No "¿se volverá la IA lo suficientemente lista para reemplazarnos?" sino "¿qué significa realmente querer algo?"
Y la verdad, después de pensar en esto unos días, no estoy seguro de que entendamos la consciencia lo suficiente para responder esa pregunta sobre nadie — humano, animal o artificial.
¿Pero no es ese el punto?
Todavía estamos descubriendo qué significa ser nosotros. Quizás deberíamos resolver ese misterio antes de preocuparnos por si las máquinas lo resuelven por nosotras.
¿Qué piensas tú? ¿Cambia esto cómo ves el debate sobre la IA? Cuéntame abajo — me encantaría leer tu opinión.