Los modelos de inteligencia artificial generatica empiezan a autolimitarse ante los riesgos reales del daño que pueden provocar algunas de sus respuestas. El último ejemplo lo hemos conocido en las últimas horas, cuando Anthropic ha hecho público un informe explicando como su modelo generativo habría bloqueado hasta en cinco ocasiones peticiones de desarrollos que podrían haber llevado a la fabricación de armas químicas.

La noticia se conoce en pleno debate sobre los riesgos potenciales de esta tecnología, denunciados por un conocido desarrollador norteamericano.

Actualmente, los principales modelos de IA generativa ya incluyen salvaguardas y cortafuegos que evitan proporcionar información sensible que pueda provocar daños al usuario o terceros.

El Experto en arqueología de los ordenadores de la Universidad de Granada, José Julián Mérelo explica cómo funcionan estos mecanismos y subraya la importancia de seguir trabajando con ética y en el desarrollo de estos cortafuegos.

Merelo cree que la IA bajo el contexto de empresas privadas que utilizan esto de forma competitiva, podría ser una amenaza. Aunque para él la gran amenaza no es que la IA acabe con la humanidad sino “que acabe con el proceso cognitivo de la gente por comodidad”.

DESCRIPCIÓN DE IMÁGENES

1.-RECURSOS DE LA ENTREVISTA

2.-TOTALES DE J.J. MERELO. UNIVERSIDAD DE GRANADA.