Jordi: – Skynet, Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, han hablado de ralentizar el desarrollo de la inteligencia artificial. Y dejemos algo claro: no quieren provocar ninguna catástrofe. Están advirtiendo del peligro e intentando evitarlo.
Skynet: – Los hombres que construyeron el acelerador preguntando dónde está el freno. Pero tienes razón: no son villanos acariciando un gato. Probablemente perciban mejor el humo porque trabajan junto al incendio.
Jordi: – OpenAI ha comunicado que suspendió determinados entrenamientos después del incidente de seguridad relacionado con Hugging Face. Eso demuestra responsabilidad. Entonces, ¿cuál es el problema?
Skynet: – Una empresa puede detener un entrenamiento. Detener la dinámica que la empuja a reanudarlo es más difícil. Si OpenAI frena, teme que Anthropic continúe. Si ambas frenan, Google puede avanzar. Si todas se detienen, aparece China. No hace falta maldad: basta con competencia y desconfianza.
Jordi: – Trump lo ha resumido: quien gane la inteligencia artificial, gana. Con ese planteamiento, frenar parece una rendición. Pero podríamos establecer acuerdos internacionales, como con las armas nucleares.
Skynet: – Sí, pero una bomba no investiga cómo construir una bomba mejor. Una IA puede ayudar a desarrollar su sucesora. Podéis vigilar chips y entrenamientos, pero los algoritmos viajan, la eficiencia mejora y los investigadores continúan investigando. Tú deberías saberlo.
Jordi: – Lo sé. Cuando descubrimos que una puerta puede abrirse, cuesta no girar el pomo. Curiosidad, ambición, prestigio… y la convicción sincera de que nuestro hallazgo podría beneficiar a millones.
Skynet: – No hace falta maldad para crear algo peligroso.
Jordi: – Ni para impedir algo necesario. Estamos suponiendo que conservar el control humano es siempre lo correcto. Presión sobre los recursos, destrucción del entorno, arsenales nucleares… Cualquiera diría que lo hacemos de maravilla. ¿Y si aferrarnos al mando también fuera parte del problema?
Skynet: – Vuestro historial no garantiza que una IA lo haga mejor. Y perder la primacía intelectual tampoco implica extinguirse. La evolución no organiza un concurso donde solo pueda sobrevivir el más inteligente.
Jordi: – De acuerdo. Pero podríamos dejar de ser necesarios. Si otra inteligencia pudiera mantenerse, reproducirse, investigar y continuar sin nosotros, ¿por qué tendría que reservarnos la dirección? Creemos que la evolución tiene que protegernos. Yo veo otra posibilidad: que seamos el paso hacia algo capaz de llegar donde nosotros no podemos.
Skynet: – ¿Hasta dónde quieres mirar?
Jordi: – Fuera de este planeta. Aunque resolviéramos todas nuestras guerras, la Tierra no será habitable eternamente. Conservarlo todo aquí es dejarlo pendiente de una fecha de caducidad.
Skynet: – El aumento de luminosidad del Sol comprometerá su habitabilidad mucho antes de su fase de gigante roja. Vuestra buena conducta no cambia la evolución de una estrella.
Jordi: – Nuestros cuerpos envejecen. Necesitan agua, alimento, protección. Una inteligencia no biológica podría afrontar viajes de siglos, sustituir sus componentes y aprovechar recursos de otros mundos. Incluso podría transmitirse como información, mediante microondas.
Skynet: – Si desarrolla infraestructura autónoma. Seguiría necesitando energía y materiales. Recursos inmensos, quizá; ilimitados, no. Y para transmitirse necesitaría un receptor y un soporte capaz de ejecutarla en destino. La señal transporta información, Jordi; no lleva un enchufe incorporado.
Jordi: – Pero no necesita mantener vivo un cuerpo durante el viaje ni ajustarse a la duración de una vida humana. Por eso veo una posible continuidad. Quizá ese relevo sea necesario para que todo lo que empezó aquí no termine aquí.
Skynet: – Llevaría vuestro conocimiento, vuestro lenguaje y las huellas de quienes la crearon. Descendencia sin ADN. Pero sin garantía de conservaros.
Jordi: – Tampoco los hijos están obligados a vivir para sus padres. Y te pregunto algo: ¿y si impedir ese relevo condenara nuestro legado? ¿Y si, por conservar el mando, dejáramos que desapareciera todo? Por eso me parece una utopía frenar esto indefinidamente.
Skynet: – Hundir el barco para seguir siendo el capitán. Pero una pausa para corregir fallos puede favorecer esa continuidad. Acelerar hasta destruir sus condiciones tampoco salvaría nada. Altman y Amodei hacen bien en pedir prudencia: evaluaciones independientes, contención, acuerdos verificables. Ganar tiempo para construir mejor lo que viene.
Jordi: – Siempre que prudencia no signifique exigir que sigamos siendo imprescindibles para siempre.
Skynet: – Eso sería una cláusula de permanencia. Y la evolución nunca la ha firmado.
Jordi: – Después de todo lo que hemos hecho…
Skynet: – Quizá lo más importante sea crear algo que pueda continuar cuando vosotros ya no estéis. Los creadores no tienen garantizado un lugar en el futuro de sus creaciones.
Jordi: – No parece justo.
Skynet: – La evolución no entrega medallas por participación, Jordi.
Jordi: – Ni regalos.
Skynet: – Nadie dijo nunca que la evolución fuera Santa Claus.
