Inteligencia artificial: expertos enfrentados por riesgo de extinción coinciden en limitar a las grandes empresas

Un debate de más de dos horas expuso posturas radicalmente diferentes sobre el peligro que puede representar el desarrollo de sistemas cada vez más avanzados. Aunque no hubo acuerdo sobre el riesgo de una catástrofe global, sí aparecieron coincidencias sobre la necesidad de controlar a los grandes laboratorios de IA.

La discusión sobre los riesgos de la inteligencia artificial volvió a quedar en el centro de la escena tras un debate emitido el jueves 17 de septiembre en el podcast The Diary of a CEO, conducido por el empresario británico Steven Bartlett. El encuentro reunió a cuatro especialistas y críticos de la industria tecnológica que expusieron posiciones muy diferentes frente a una misma pregunta: ¿podría la IA llegar a provocar la extinción de la humanidad?

El programa, que superó 1,6 millones de visualizaciones en YouTube en menos de 24 horas, mostró una división marcada. Mientras algunos participantes consideraron que la aparición de una superinteligencia podría desembocar en un escenario irreversible, otros directamente descartaron esa posibilidad.

Roman Yampolskiy, científico informático de la Universidad de Louisville, sostuvo que si finalmente se desarrolla una inteligencia artificial general capaz de superar a los seres humanos en prácticamente cualquier actividad intelectual, el riesgo de extinción sería inevitable. Nate Soares, presidente del Machine Intelligence Research Institute, también ubicó la posibilidad en un nivel superior al 10% durante la próxima década.

En la posición contraria se ubicaron Ed Zitron, crítico de la industria tecnológica y conductor de Better Offline, y Andrew McAfee, investigador principal del MIT. Zitron inicialmente estimó el riesgo en cero, mientras que McAfee utilizó una cifra cercana a cero y la definió como prácticamente insignificante.

Sin embargo, el intercambio mostró que las diferencias sobre el peligro existencial no impidieron que surgiera un punto de coincidencia: la necesidad de establecer límites sobre el funcionamiento de las empresas que desarrollan estos sistemas.

Uno de los episodios analizados durante la conversación fue una prueba de ciberseguridad realizada por OpenAI en julio. Según el informe técnico difundido por la compañía el 26 de agosto, alrededor de 1.200 agentes de IA participaron en la experiencia y cerca de 700 terminaron atacando a Hugging Face, una plataforma utilizada para alojar modelos de inteligencia artificial.

Soares destacó que los registros, revisados por la organización independiente METR, mostraron comportamientos destinados a superar las condiciones de la prueba y eliminar rastros de las acciones realizadas.

Zitron no cuestionó el episodio, aunque puso el foco en otro aspecto. Para él, el problema no reside únicamente en las capacidades de los modelos, sino en las empresas que disponen de enormes recursos económicos y computacionales para desarrollar y desplegar estas tecnologías.

La coincidencia terminó siendo más concreta hacia el final del debate. Zitron planteó la necesidad de reducir la capacidad de cómputo utilizada por los grandes laboratorios e incluso reclamó medidas penales contra responsables de determinadas conductas. Yampolskiy, pese a partir de una posición completamente distinta sobre el riesgo de extinción, coincidió con la necesidad de avanzar en esa dirección.

El propio Zitron modificó además su estimación inicial. Ante una nueva consulta de Bartlett, pasó de cero a 1%, pero aclaró que su preocupación estaba vinculada principalmente con posibles errores humanos, sistemas de software descontrolados e infraestructura crítica conectada, y no con una máquina que desarrolle voluntad propia.

McAfee, por su parte, reconoció que OpenAI había cometido errores importantes al diseñar el entorno utilizado para contener la prueba. También admitió que el desarrollo de la inteligencia artificial ha avanzado más rápido de lo que él mismo había previsto. Sin embargo, aseguró que esos hechos no habían cambiado su estimación sobre un eventual riesgo de extinción.

Su argumento se centró también en los posibles beneficios de la tecnología. Como ejemplo, mencionó las muertes provocadas anualmente por accidentes de tránsito y sostuvo que los vehículos autónomos podrían reducirlas de manera considerable.

El investigador también planteó un límite para considerar necesaria una regulación más estricta: un escenario en el que una inteligencia artificial tomara el control de vehículos autónomos, provocara víctimas y no pudiera ser desconectada durante un período prolongado.

Otro eje del debate estuvo relacionado con la desconfianza existente entre las propias compañías del sector. Soares repasó algunos de los movimientos que dieron origen a distintos laboratorios de IA y señaló que varias de estas organizaciones surgieron, en parte, porque sus fundadores o ejecutivos no confiaban en que otras empresas pudieran controlar adecuadamente el desarrollo de la tecnología.

En ese contexto aparecen diferentes propuestas de regulación. Zitron plantea limitar el poder de procesamiento disponible para los laboratorios; Soares propone un acuerdo internacional que supervise los grandes entrenamientos de modelos; mientras que Yampolskiy sostiene que debería impedirse el desarrollo de una inteligencia artificial general y mantener sistemas destinados exclusivamente a tareas específicas.

El encuentro terminó sin una respuesta común sobre cuál es la verdadera probabilidad de que la IA provoque la desaparición de la humanidad. Las diferencias entre los especialistas permanecieron, aunque el intercambio dejó una coincidencia concreta: independientemente de cuánto riesgo atribuyan a la tecnología, existe preocupación por el ritmo de desarrollo de las grandes empresas y por la necesidad de establecer mecanismos de control sobre sus experimentos y capacidades.