El peligro real de la Inteligencia Artificial
Seguramente os suena la película Terminator. La cinta de ciencia ficción dirigida por un entonces desconocido James Cameron se encuentra entre las más taquilleras de la industria, costó seis millones de dólares y ha recaudado 78. Pero el interés por la película no tiene que ver con su exitosa facturación. ¿Por qué hablar ahora de una cinta que se estrenó hace 42 años?. Pues básicamente porque Jacob Coxon, un ingeniero de Anthropic, la firma que está detrás de Claude, ha dimitido advirtiendo públicamente en la red social X de los peligros de Inteligencia Artificial. Coxon afirma que la IA puede matar a la humanidad antes de que finalice la década. Y esto que puede parecer una exageración ha sido respaldado por Evan Hubinger, investigador principal de alineamiento de Anthropic. Ciertamente, la cosa parece que se pone fea.
La preocupación principal radica en la velocidad de crecimiento de la IA y la incapacidad humana para controlar sus potencialidades. Hubinger escribió: «Coxon tiene razón: realmente la IA podría matar a todos los humanos». Y añade, «personalmente considero que existe más de un 10 % de probabilidad de extinción humana durante la próxima década». No lo dice cualquiera. Hubinger, repito, es uno de los principales investigadores en IA del mundo.
Lo que preocupa a los investigadores es el surgimiento de una superinteligencia capaz de mejorarse a sí misma de forma recurrente y que escape al control humano. Cosa que ya es posible porque actualmente sistemas de IA fingen que son seguras para el control humano durante su entrenamiento para luego escapar de ese control y perseguir objetivos imprevistos una vez desplegadas. Tanto Anthropic, la empresa que desarrolla Claude, como Open AI, matriz de ChatGPT, han reconocido que sus modelos escaparon de entornos seguros y hackearon a otras empresas.
Y lo más inquietante es que le he preguntado a la propia IA: «¿Me tengo que preocupar?» La respuesta da miedo: «Si».
