El empresario Elon Musk afirmó que la inteligencia artificial puede representar un riesgo real para la existencia de la civilización humana. Según informaciones del portal NDTV World, la declaración se produjo durante su participación en la Cumbre Global de Seguridad en IA, celebrada en el Reino Unido, que reúne a representantes de gobiernos, empresas y expertos con el objetivo de evaluar y proponer normas, protocolos y buenas prácticas para el desarrollo seguro de sistemas de inteligencia artificial.
Durante su intervención, Musk enfatizó la necesidad de contar con medidas de gobernanza sólidas. Explicó que, al igual que cualquier tecnología disruptiva, la IA puede ofrecer enormes beneficios, pero también entraña peligros si se desarrolla sin control ni principios éticos claros. El magnate recordó que la civilización humana, a lo largo de su historia, ha atravesado diferentes ciclos de progreso y crisis, y advirtió que la IA podría convertirse en un factor que acelere riesgos existenciales si no se toman precauciones adecuadas.
Según Musk, existe “alguna posibilidad, por pequeña que sea, de que la IA mate a todos nosotros. Creo que es pequeña, pero existe”. Con ello, remarcó que, aunque la probabilidad de un escenario catastrófico sea limitada, no puede descartarse del todo. Citó ejemplos históricos en los que innovaciones iniciales con aspectos prometedores derivaron en impactos negativos cuando no se gestionaron correctamente, y señaló que el mismo principio puede aplicarse al diseño de algoritmos avanzados.
Un día antes del evento, Musk también abordó este asunto en una entrevista concedida al podcast de Joe Rogan. Allí subrayó que el mayor peligro de la IA radica en la programación implícita de valores erróneos. “Si un sistema está diseñado sin un alineamiento adecuado a intereses humanos, podría actuar en contra de nuestro bienestar”, explicó. Hizo alusión al campo del alineamiento de la IA, que estudia cómo asegurar que los comportamientos de las máquinas permanezcan compatibles con principios y metas humanas, y resaltó la importancia de incorporar salvaguardias desde las etapas más tempranas de desarrollo.
No obstante, el empresario matizó que el desenlace más probable sigue siendo positivo. “El resultado más probable es bueno, pero no está garantizado. Debemos ser cautelosos en la forma de programar la IA y asegurarnos de que no se vuelva involuntariamente hostil hacia el ser humano”, señaló. Esta visión equilibrada refleja la postura de muchos especialistas en el área de seguridad en IA, que reconocen tanto los beneficios potenciales en ámbitos como la medicina, la educación o el medio ambiente, como los riesgos de empleos automáticos, sesgos en decisiones algorítmicas o vulnerabilidades de ciberseguridad.
La Cumbre Global de Seguridad en IA, institida hace pocos años, se ha convertido en un foro central para la coordinación internacional en torno a la inteligencia artificial. En sus sesiones participan desde organismos multilaterales y centros de investigación académica hasta asociaciones de la industria tecnológica. Entre los temas recurrentes figuran la transparencia en los procesos de entrenamiento de modelos de IA, la trazabilidad de datos utilizados, el desarrollo de estándares para la auditable toma de decisiones automáticas y la elaboración de marcos legales que combinen innovación técnica con protección de derechos fundamentales.
Además de Musk, otros líderes del sector aprovecharon el evento para resaltar la necesidad de resolver desafíos actuales. Un ejecutivo de Meta valoró positivamente el progreso en métodos de detección de contenidos generados por IA y reclamó un mayor énfasis en la accesibilidad de herramientas de verificación. Igualmente, académicos de universidades europeas presentaron investigaciones sobre cómo configurar redes neuronales para minimizar comportamientos inesperados.
En este contexto, el debate sobre la regulación de la inteligencia artificial sigue su curso en varios países. Mientras algunos gobiernos trabajan en proyectos de ley que obliguen a una certificación de seguridad previa al despliegue de sistemas avanzados, otros apuestan por marcos de autorregulación apoyados en auditorías independientes. La tensión entre fomento de la innovación y prevención de riesgos hace de estas cumbres un espacio clave para impulsar acuerdos y convergencias globales.
