Ingeniero Núñez González alerta sobre el lado más vulnerable de la inteligencia artificial

SANTO DMINGO, RD.- El ingeniero Freddy Manuel Núñez González participó como expositor en la conferencia magistral “Creando IA segura en tiempos de vulnerabilidad de la información”, donde analizó los principales retos técnicos, éticos y de seguridad que enfrenta el desarrollo de sistemas de inteligencia artificial en un contexto marcado por el incremento de los ciberataques, la desinformación y la creciente dependencia de los datos.

La actividad se llevó a cabo este viernes 25 de junio en horas de la noche en el Auditorio 1 del edificio A2 del Campus Santo Domingo Monseñor Agripino Núñez Collado de la Pontificia Universidad Católica Madre y Maestra (PUCMM), reuniendo a estudiantes, docentes, investigadores y profesionales interesados en el impacto de la inteligencia artificial sobre la seguridad de la información y la toma de decisiones.

Durante su intervención, Núñez González sostuvo que el debate sobre la inteligencia artificial no debe centrarse únicamente en sus capacidades o beneficios potenciales, sino también en las limitaciones estructurales de estos sistemas y en los riesgos derivados de su implementación sin controles adecuados.

Señaló que muchas organizaciones están adoptando herramientas basadas en IA sin una comprensión clara de sus vulnerabilidades, mecanismos de funcionamiento o consecuencias operacionales.

El especialista destacó que la creciente integración de estas tecnologías en sectores críticos aumenta la necesidad de establecer mecanismos robustos de gobernanza, supervisión y gestión de riesgos.

Eje central de su conferencia

Como eje central de su conferencia, planteó tres interrogantes que, a su juicio, resumen los principales desafíos de la inteligencia artificial contemporánea: ¿Le estamos pidiendo lo correcto al sistema? ¿Funcionará de manera segura y predecible en condiciones reales? ¿Y qué sucederá cuando actores maliciosos utilicen esta tecnología con fines ofensivos?

Núñez González indicó que la primera pregunta se relaciona con el problema de la alineación entre los objetivos humanos y los resultados generados por los sistemas inteligentes; la segunda, con la capacidad de los modelos para operar de forma confiable fuera de entornos controlados; y la tercera, con el creciente uso de la inteligencia artificial para la automatización de campañas de desinformación, ingeniería social, generación de contenido fraudulento y otras amenazas emergentes.

Asimismo, advirtió que la seguridad en inteligencia artificial no puede considerarse una característica adicional incorporada al final del proceso de desarrollo, sino un requisito fundamental desde las etapas de diseño, entrenamiento, validación e implementación. En este sentido, subrayó la necesidad de adoptar enfoques multidisciplinarios que integren ciberseguridad, ética tecnológica, gestión de riesgos y cumplimiento normativo.

La conferencia concluyó con un llamado a fortalecer la investigación, la formación especializada y la cooperación entre la academia, el sector privado y las instituciones públicas para promover el desarrollo de sistemas de inteligencia artificial que sean no solo eficientes, sino también seguros, verificables y resilientes frente a amenazas cada vez más complejas.