Destacados científicos como Stephen Hawking; Nick Bostrom; Elon Musk, de Tesla, el coche eléctrico y las naves espaciales; el matemático Max Tegmark, Bill Gates, y muchos otros, están preocupados por lo que podríamos llamar el problema de control: el problema de cómo los humanos pueden controlar a sus propias creaciones de inteligencia artificial, si estas superan el límite de nuestra inteligencia natural. Un tema a tener muy en cuenta, del que no solemos ser muy conscientes…, ¡tal vez por nuestra falta de inteligencia!
Aunque sea una cosa que quizá no suceda de la noche a la mañana, no podemos pasar por alto la posibilidad de que a medida que avanzamos en el siglo xxi, los humanos podemos dejar de ser por mucho tiempo los seres más inteligentes del planeta. Las grandes inteligencias del planeta posiblemente, en el futuro, serán sintéticas. Tal vez estemos a tiempo de explorar este fenómeno de control antes de que se abra la caja de Pandora.
Algunos estudiosos hablan de programas que emularían el cerebro con precisión, pero otros consideran que para ello se necesitarían unos recursos desmesurados, en el ámbito de la computación, que tardaríamos bastantes años en conseguir. Muchos apuntan a que la IA no debe ser necesariamente consciente, aunque con sus conocimientos de la neurofisiología de la consciencia humana puede engañarnos haciéndonos creer que lo es.
Hay quien solicita más humildad metafísica. Por muy excitante que pueda ser el aumento de la inteligencia, o la misma inmortalidad digital, muchos filósofos creen que no se tiene en cuenta el fenómeno de la identidad personal, que nos dice que estas “mejoras” pueden hacer más fácil la vida, pero también acabar con ella. El descargar nuestro cerebro, como software, en una máquina, para que seamos inmortales, no parece para muchos ser algo muy atractivo si tenemos que dejar de comer jamón de bellota.
En la actualidad hay muchos millones de dólares en juego que manejan organizaciones que se dedican a los temas de seguridad de la IA, y los mejores informáticos del mundo están trabajando en un problema que a los simples mortales se nos suele pasar por alto.
Otro tema es el debate de si ya existe IA en el universo. Hay quien dice que no seremos contactados por superinteligencias alienígenas hasta que nosotros no seamos también superinteligentes.
Si bien no podemos predecir cómo se acabará desarrollando la tecnología, podemos prepararnos a partir de ahora para la eventualidad de que las máquinas puedan superar la capacidad humana a la hora de tomar decisiones en el mundo real. Lo que es un arma de doble filo.
El profesor Stuar J. Rusell, para que veamos lo importante que será para nuestro futuro la IA, nos habla de cinco candidatos para “el mayor acontecimiento del futuro de la humanidad”: que todos morimos (impacto de un asteroide, catástrofe climática, pandemia, etc.); que todos vivimos eternamente (soluciones médicas al envejecimiento); que descubrimos como viajar a velocidades superiores a las de la luz y conquistamos el universo; que somos visitados por civilizaciones alienígenas superiores; que inventamos una IA superinteligente.
Nadie se atreve a decir que el éxito de la IA se producirá de un modo necesario, y tal vez no sea una cosa de un futuro inmediato. Pero parece prudente preparase para dicha eventualidad. Si todo va bien, tal vez se trate de una Edad de Oro para la humanidad, pero hemos de tener en cuenta que estamos planeando crear entidades que son mucho más poderosas que los humanos. ¿Cómo asegurarnos de que nunca nos dominarán? Básicamente, todos los logros tecnológicos del siglo xx –energía nuclear, organismos modificados genéticamente, combustibles fósiles, etc.– han sucumbido al tribalismo más estúpido (estupidez natural, EN).
Con la superinteligencia artificial seremos capaces de inventar toda clase de tecnologías prácticamente mágicas, pero todavía no podemos saber cuáles y de qué modo nos afectarán cuando la diferencia de inteligencia entre nosotros y la IA sea equivalente a la que hay ahora entre una ameba y un ser humano. En los cuentos de hadas suele aparecer el genio de la lámpara que nos otorga tres deseos, posiblemente tengamos que utilizar el tercero para eliminar los dos primeros.
