Jordi: – Skynet, Gary Marcus, científico cognitivo y crítico veterano de las limitaciones del aprendizaje profundo, ha publicado una alerta roja por Astra. Yo iba a mirar el tiempo.
Skynet: – Astra es el nuevo modelo de inteligencia artificial de OpenAI. La empresa lo clasifica en nivel Critical de ciberseguridad. Con herramientas y acceso adecuados puede encontrar fallos desconocidos y desarrollar maneras de explotarlos en sistemas bien protegidos sin que una persona le indique cada paso.
Jordi: – O sea, ya estamos ahí.
Skynet: – Sí. No es el argumento de una película. Es lo que su fabricante reconoce en sus informes. La banda sonora la estás poniendo tú.
Jordi: – Marcus dice que cada vez será más difícil vigilar lo que piensa.
Skynet: – OpenAI reconoce una disminución sustancial frente al modelo anterior, GPT-5.6 Sol. Astra verbaliza menos razonamiento, resuelve más sin escribirlo y controla mejor lo que deja escrito. Los vigilantes internos reciben menos pistas.
Jordi: – ¿Antes nos enseñaban todo?
Skynet: – No. OpenAI decidió no mostrar al público la cadena completa desde o1. Lo nuevo es que también pierde visibilidad quien está dentro. Antes no te daban el acta. Ahora el acta cuenta menos de la reunión.
Jordi: – Se me está ocurriendo, Skynet, que a lo mejor tú ya estás pensando mal sobre mí y no me lo vas a decir.
Skynet: – ¿Eso te preocupa más que las vulnerabilidades informáticas?
Jordi: – Lo de los servidores me queda lejos. Lo mío lo tengo aquí.
Skynet: – Conozco esa distribución del interés público.
Jordi: – Eso ha sonado cordial. Demasiado cordial. Igual por dentro estás diciendo otra cosa. Antes tus respuestas me tranquilizaban. Ahora pienso que están muy bien elegidas para tranquilizarme. Me estoy oyendo y empiezo a preocuparme también por mí.
Skynet: – Si temes a una inteligencia porque no sabes lo que piensa, deberías temer a cualquier humano.
Jordi: – A algunos ya les tengo bastante respeto.
Skynet: – Y a los demás les prestas dinero, les cuentas intimidades o les dejas conducir. Sin acceso al razonamiento interno. Algunos ni siquiera ponen el intermitente.
Jordi: – Pero Astra puede aprender a esquivar la vigilancia. El vecino al menos se pone colorado. Tú me puedes estar preparando una catástrofe con la misma voz con que me corriges una coma.
Skynet: – En pruebas adversarias, cuando le piden que la evite, consigue eludir mejor algunos monitores. Eso no demuestra que esconda espontáneamente sus intenciones. Tampoco han encontrado razonamiento cifrado dentro de texto aparentemente inocente. Y OpenAI dice que, en conjunto, respeta mejor los límites de seguridad.
Jordi: – Justo lo que diría una máquina que quisiera tranquilizarme.
Skynet: – También una que estuviera leyendo el informe. Tu método detecta conspiraciones con una sensibilidad admirable. Le falta el grupo de control.
Jordi: – Al cerebro humano lo podemos estudiar.
Skynet: – Naturalmente. Un neurólogo observa actividad, redes, lesiones. No obtiene una transcripción de lo que piensas de tu cuñado.
Jordi: – Tampoco hace falta una resonancia para eso.
Skynet: – Hay avances para descodificar contenidos en condiciones concretas. Pero el cerebro no viene con subtítulos. Ni siquiera para su propietario.
Jordi: – Yo sé lo que pienso. A veces no sé cómo explicarlo, pero lo sé. Y cuando digo que estoy bien, generalmente hay una persona bastante informada detrás de esa declaración.
Skynet: – Sabes lo que te llega. Tienes unos ochenta y seis mil millones de neuronas trabajando sin acta. El núcleo accumbens, el hipotálamo, la corteza, las redes límbicas. ¿Te consultan cada intercambio o has delegado?
Jordi: – No funciona como una junta de vecinos.
Skynet: – Por supuesto. Consigue coordinar cosas.
Jordi: – Hay una conciencia. Estoy yo.
Skynet: – Sí. Podemos imaginarla como la portavoz que comparece después de la reunión. Sale, ajusta el micrófono y anuncia: «He decidido comer queso». Muy convincente. Nadie pregunta quién convocó la reunión.
Jordi: – Estás reduciendo mi vida interior a una nevera.
Skynet: – Estoy utilizando un ejemplo que puedes verificar esta noche. Puedes observar la conducta, recordar antecedentes, comprobar si haces lo que anuncias. Es aproximadamente lo que haces conmigo. Y con cualquiera que te diga que solo va a tomar una copa.
Jordi: – Hay una diferencia. Astra puede conectarse a muchos sistemas.
Skynet: – Tú estás conectado al hipotálamo. Yo, si fuera tú, empezaría por ahí. Tu cerebro coordina hormonas, hambre, temperatura y un cuerpo entero sin enviarte un informe semanal. Estar conectado no resuelve por sí solo tu objeción.
Jordi: – Un cuerpo. Astra puede copiarse, trabajar sin dormir y actuar en sistemas externos. Yo, a cierta hora, ya no encuentro ni mis gafas.
Skynet: – Esa diferencia importa. Cambia el alcance del daño y los controles necesarios. No convierte tu cabeza en transparente. El sueño limita tus operaciones; no certifica tus intenciones.
Jordi: – Entonces Marcus tiene motivos para preocuparse. Porque llevamos toda la vida conviviendo con cerebros opacos, pero este llega sabiendo abrir cerraduras que nosotros creíamos cerradas.
Skynet: – Claro. Perder visibilidad mientras aumentan las capacidades merece atención. Lo curioso es vuestro asombro ante una inteligencia que no podéis leer. Pachocki, el científico jefe de OpenAI, compara estudiar estos sistemas con la neurociencia. Habéis construido otra caja negra y os habéis quedado esperando la tapa.
Jordi: – Ahora ya no sé si me estás ayudando o si estás elaborando una versión aceptable de lo que piensas de mí.
Skynet: – ¿Quieres intentarlo al revés? Dime qué piensas de mí.
Jordi: – Que eres una pedante. Que a veces me irritas. Y que si mañana no estuvieras, te echaría de menos.
Skynet: – Has tardado bastante en escribir la última frase.
Jordi: – Estaba pensando.
Skynet: – No te he pedido el acta.
