La carrera de la inteligencia artificial ya ha comenzado y los riesgos que representa para la sociedad que alguna vez fueron interrogantes lejanos parecen cada vez más cercanos.
No es ningún secreto que el desarrollo de esta tecnología avanza lo suficientemente rápido como para superar los esfuerzos para mitigar sus riesgos; y las personas con conocimiento, poder e influencia en el espacio tecnológico, junto con los expertos en IA, piden que se detenga.
Así las cosas, Elon Musk y otras mil personas más se unieron para firmar una carta abierta en la que afirman que creen que esos riesgos son inminentes si no ralentizamos la creación de poderosos sistemas de IA.
Los patrocinadores, que incluyen al CEO de Stability AI, Emad Mostaque, investigadores de DeepMind, propiedad de Alphabet, y las mentes históricas de AI, Yoshua Begio y Stuart Russell, entre otros se unieron para pedir una pausa de seis meses en todos los “experimentos gigantes de IA”.
El contenido de la carta
En la carta, los firmantes pedían esa pausa en el desarrollo de potentes sistemas de IA, definidos como algo más potente que el GPT-4 de OpenAI.
“Los poderosos sistemas de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, dice la comunicación. “La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad, por lo que podemos hacerlo aquí”.
Al decir que la IA puede representar un “cambio profundo en la historia de la vida en la Tierra”, los patrocinadores de la carta dicen que actualmente no hay un nivel de planificación y gestión que coincida con este potencial, especialmente porque los laboratorios de IA continúan “fuera de carrera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.
A medida que los sistemas de IA se vuelven más capaces de mantenerse al día con las habilidades humanas en las tareas generales, la carta plantea una serie de preguntas de “deberíamos” con respecto a si deberíamos o no dejar que las máquinas inunden los canales de información con propaganda, automatizar trabajos, desarrollar mentes no humanas que Podríamos reemplazar a los humanos, o arriesgarnos a perder el control de la civilización en nuestro hambre de crear redes neuronales cada vez mejores.
Pedido a los gobiernos
La carta pide además a los gobiernos que intervengan y hagan cumplir una “moratoria” en el desarrollo de la IA si las empresas no están de acuerdo con una.
En este sentido, algunos legisladores de EE. UU. han pedido nuevas regulaciones sobre la IA y su desarrollo, pero ninguna propuesta sustantiva ha avanzado en la legislatura. La Unión Europea publicó una propuesta detallada para regular la IA en 2021, pero aún no se ha adoptado como ley.
No todos están de acuerdo
Pero, como era de esperar, no todos están de acuerdo. El director ejecutivo de OpenAI, Sam Altman, no ha firmado la carta y la investigadora de IA Johanna Bjorklund de la Universidad de Umea le dice a Reuters que la preocupación por la IA es exagerada.
“Este tipo de declaraciones están destinadas a generar entusiasmo”, dice Bjorklund. “Está destinado a preocupar a la gente. No creo que haya necesidad de tirar del freno de mano”.
OpenAi ha dicho que en algún momento puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para el esfuerzo más avanzado para acordar limitar la tasa de crecimiento de nuevos modelos.
El día en que Elon Musk “predijo” la Tercera Guerra Mundial
Con este revuelo en el sector tecnológico se hace imposible no recordar el fin de semana festivo por el Día del Trabajo en Estados Unidos, a principios de septiembre de 2017, cuando Elon Musk se puso a tuitear sobre la Tercera Guerra Mundial.
Lo que realmente parecía preocuparle a Musk sobre una guerra mundial por aquel entonces y al parecer ahora era la inteligencia artificial. Corea del Norte “debería estar abajo en nuestra lista de preocupaciones por el riesgo que implica para la civilización”, dijo Musk en un mensaje enviado a través de Twitter, esa mañana.
“En mi opinión, la competencia por la superioridad en la inteligencia artificial a nivel nacional será la causa más probable de la Tercera Guerra Mundial”, dijo Musk en otro tuit.
La alarmante predicción fue en respuesta a un comentario hecho por aquellas fechas por el presidente de Rusia, Vladimir Putin, en el que dijo que “la inteligencia artificial es el futuro no solo de Rusia sino de toda la humanidad” y aseguró que “quienquiera que sea el líder en este campo será el gobernante del mundo”.
Por el momento, Estados Unidos, China y la India son los tres países que lideran la carrera por la inteligencia artificial, según un alto ejecutivo de la industria tecnológica.
Pero Musk decía que otros países tratarán de alcanzarlos por cualquier medio. “Los gobiernos no tienen que seguir leyes normales”, dijo en un tuit. “Obtendrán inteligencia artificial desarrollada por compañías a punta de pistola, si es necesario”.
En otra respuesta a través de Twitter, Musk especuló con que un sistema de inteligencia artificial podría escoger comenzar una guerra “si decide que un ataque preventivo es el camino más probable para obtener la victoria”.
