Los Expertos En Inteligencia Artificial creen importante dotar al desarrollo de esta tecnología de medidas de seguridad que permitan a los seres humanos controlar en todo momento y frenar las decisiones autónomas de la IA. Esta reflexión se hace a partir de la comunicación por parte de Open I del resultado de un experimento en un entorno aislado, donde estaban probando uno de sus modelos aún no publicado. Según han explicado, este modelo era entrenado por un proveedor que le había encapsulado en un enorno seguro (caja de arena) y le había encargado la misión de atacar a dicho proveedor. El resultado es que por si misma la IA consiguió cumplir su mi8sión y salió de este entorno seguro, atacando al proveedor, y usando los medios que el modelo de OpenAI creía que tenía que seguir para escapar de ese entorno seguro era la mejor forma de cumplir su misión.

Para los expertos, el debate ético encima de la mesa apunta a si cualquier herramienta de inteligencia artificial debería dotada de un contrapeso de seguridad que evite que una aplicación pueda atacar a otra de forma autónoma, una especie de botón rojo. Se trata, según los expertos, de un entorno tecnológico nuevo y rápido para es que aún no estamos preparados y que podría hacer vulnerables algunos entornos críticos, como las empresas de suministros o servicios básicos.

El incidente fue solucionado rápidamente, pero abre la puerta a la reflexión y es un llamamiento de atención a los desarrolladores para que el aprendizaje automático y la autonomía de las máquinas esté siempre supervisado y sometido a criterios de legalidad, seguridad y ética.

DESCRIPCIÓN DE IMÁGENES

RECURSOS DE LAS ENTREVISTAS

TOTAL DE RAFAEL ALCOHOLADO. INGENIERO INFORMÁTICO Y EXPERTO EN CIBERSEGURIDAD.

TOTAL DE JOAQUIN PEÑA. COE DE AIFLOCK.AI