Una parte de este texto está escrita con inteligencia artificial. No con el objetivo de fomentar su uso en el periodismo, sino de poner de manifiesto que si no se especifica cuál, es casi imposible determinarlo más allá de identificar sus fórmulas lingüísticas habituales. El avance de la IA ha alcanzado un ritmo que plantea enormes riesgos difíciles de anticipar, y uno de ellos es volverse indistinguible de las cosas que puede hacer un humano. Sus aplicaciones ya permiten acelerar investigaciones científicas, automatizar tareas complejas y mejorar determinados servicios. Sin embargo, el desarrollo de sistemas cada vez más potentes también abre interrogantes sobre la seguridad, el uso malicioso de esta tecnología y la posibilidad de que, en el futuro, algunas herramientas alcancen capacidades que superen la capacidad humana para controlarlas.
Informes científicos internacionales han advertido de que la IA puede facilitar actividades delictivas, ampliar la difusión de información falsa y generar riesgos para infraestructuras esenciales.Todo ello hace cuestionarse cómo gestionar una tecnología que evoluciona rápidamente sin renunciar a sus beneficios ni permitir que sus capacidades se conviertan en una amenaza global, sin incurrir en asuntos de ciencia ficción, sino refiriéndonos a problemas tangibles del mundo real.
Los sistemas actuales son capaces de redactar textos, generar imágenes, programar, analizar grandes cantidades de información y ejecutar determinadas tareas mediante instrucciones relativamente sencillas, que todos conocemos como 'prompts'. Su evolución apunta hacia herramientas más autónomas, capaces de planificar operaciones, utilizar programas externos y completar procesos con una supervisión humana limitada, pero también hacia usos maliciosos de la misma o puntos de desarrollo en los que las capacidades humanas queden en un juego de niños en comparación con el alcance de la tecnología.
El problema podría adquirir otra dimensión si estos sistemas llegaran a desarrollar capacidades muy superiores a las actuales en campos como la investigación científica, la estrategia o la ciberseguridad. Una inteligencia artificial extremadamente avanzada podría acelerar descubrimientos beneficiosos para la humanidad, pero también encontrar nuevas formas de explotar vulnerabilidades técnicas o sociales. El Informe Internacional sobre la Seguridad de la Inteligencia Artificial de 2025, elaborado con la participación de expertos de distintos países, recoge las preocupaciones relacionadas con el uso malicioso, los fallos de funcionamiento y la posibilidad de perder el control sobre sistemas cada vez más sofisticados. No obstante, los especialistas mantienen diferencias importantes sobre la velocidad a la que podrían materializarse los escenarios más graves y sobre su probabilidad.
Uno de los riesgos más debatidos aparece cuando una IA recibe objetivos complejos y dispone de autonomía para perseguirlos. Si interpreta incorrectamente las instrucciones, identifica soluciones perjudiciales o actúa de manera inesperada, sus decisiones podrían provocar consecuencias importantes, especialmente si está conectada a servicios financieros, redes eléctricas, sistemas industriales, infraestructuras críticas o si está operando un objeto o arma que pueda causar daño físico a una persona. Ello no significa que las máquinas actuales tengan voluntad propia o persigan necesariamente objetivos independientes, pero la preocupación se centra en los efectos de combinar esas capacidades avanzadas con un desarrollo de su autonomía operativa y un escenario en el que los mecanismos de supervisión sean insuficientes.
Actividades maliciosas y otros problemas
Mientras se debate sobre los posibles riesgos futuros, ya existen amenazas relacionadas con el uso deliberadamente perjudicial de la inteligencia artificial. Los delincuentes pueden utilizarla para elaborar mensajes fraudulentos más convincentes, imitar voces, fabricar vídeos falsos o adaptar campañas de engaño a diferentes personas. Estas técnicas dificultan la identificación de contenidos manipulados y pueden afectar tanto a particulares como a empresas e instituciones públicas. En el ámbito político, la generación masiva de mensajes y materiales audiovisuales falsos puede contribuir a extender rumores, desacreditar a candidatos políticos o alimentar tensiones sociales durante acontecimientos sensibles.
La ciberseguridad constituye otro frente de preocupación. La IA puede ayudar a identificar vulnerabilidades, analizar sistemas informáticos y automatizar determinadas fases de un ataque. Aunque las operaciones complejas siguen requiriendo conocimientos y recursos, estas herramientas pueden reducir algunas barreras técnicas y permitir que los atacantes actúen con mayor rapidez.
Los riesgos también alcanzan al ámbito biológico y químico. Los modelos avanzados pueden proporcionar información científica útil para desarrollar medicamentos o estudiar enfermedades, pero determinados conocimientos podrían ser aprovechados por actores maliciosos. Los investigadores advierten de la necesidad de evaluar cuidadosamente las capacidades de los sistemas más avanzados para impedir que faciliten actividades peligrosas. La tecnología no es perjudicial por definición, pero su impacto depende de las capacidades disponibles, de las restricciones aplicadas y, especialmente, de quién la utiliza y con qué finalidad.
El temor a perder el control
Uno de los escenarios más difíciles de evaluar es la posibilidad de que futuros sistemas extremadamente avanzados actúen de formas que sus desarrolladores no hayan previsto. Si una IA pudiera ejecutar numerosas operaciones de manera autónoma, modificar sus estrategias y aprovechar fallos de seguridad, detectar y corregir un comportamiento peligroso podría resultar más complicado que con las herramientas actuales. Algunos investigadores consideran que este riesgo merece una atención prioritaria, aunque reconocen que todavía existen importantes incertidumbres sobre las capacidades que alcanzarán los sistemas futuros. Otros especialistas cuestionan las previsiones más alarmistas y defienden que los peligros inmediatos, como el fraude, la manipulación informativa y la concentración económica, requieren una atención más urgente, centrándose en problemas más cotidianos que en un posible apocalipsis tecnológico.
En cualquier caso, la dificultad para interpretar por completo el funcionamiento interno de determinados modelos constituye un desafío para la supervisión. Si las organizaciones no pueden explicar con suficiente precisión por qué un sistema produce determinados resultados, garantizar su fiabilidad en aplicaciones críticas resulta más complicado. A ello, se suma la competencia internacional. Los gobiernos y las empresas tecnológicas tienen incentivos económicos, militares y estratégicos para desarrollar sistemas cada vez más potentes, en una carrera de fondo que puede aumentar la presión para lanzar productos rápidamente, con más capacidades y capaces de generar mayores problemas, incluso cuando las evaluaciones de seguridad no permiten descartar todos los riesgos relevantes.
Respuesta y regulación internacionales
La dimensión mundial y humanitaria (en el sentido de la palabra de que afecta a toda la humanidad) del asunto requiere coordinación en todos los niveles. Por ello, las Naciones Unidas han defendido una gobernanza internacional que permita compartir conocimientos, establecer mecanismos de cooperación y proteger los derechos humanos. Entre las medidas que se debaten figuran las evaluaciones independientes antes de desplegar modelos de alto riesgo, las auditorías periódicas, la protección de las infraestructuras críticas y la obligación de comunicar incidentes graves. También se plantea reforzar la identificación de contenidos sintéticos, limitar determinados usos peligrosos y establecer responsabilidades claras para desarrolladores y operadores.
Estas medidas deberán adaptarse a la evolución tecnológica sin bloquear aplicaciones que pueden aportar avances importantes en medicina, educación, investigación y productividad. El reto consiste en encontrar un equilibrio entre innovación, seguridad y control democrático. La inteligencia artificial puede convertirse en una de las herramientas más transformadoras de este siglo, pero su desarrollo también obliga a afrontar una pregunta esencial: ¿será posible mantener un control efectivo sobre sistemas cuyas capacidades podrían superar ampliamente las actuales? Sin que exista todavía una respuesta firme, todo dependerá de cómo se afronten los retos que están por venir.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.