La IA generativa se convierte en un riesgo para las empresas

Según los datos de la consultora Gartner, la disponibilidad a nivel general de la IA generativa, en sistemas como ChatGPT o Google Bard, se ha convertido en una de las principales preocupaciones de los directivos de las empresas en lo que a correr riesgos se refiere. 

Entonces, la consultora hizo una encuesta sobre los 20 riesgos principales que veían para las compañías a 249 directivos de empresa. El informe realizado a partir de ella, denominado Informe trimestral sobre riesgos emergentes, incluye información detallada sobre el impacto potencial de cada uno de ellos, el nivel de atención, el marco temporal y las oportunidades percibidas para los riesgos.

Los encuestados citaron a la viabilidad de terceros (67%) como el riesgo emergente con mayor rapidez que están vigilando las empresas. Y la IA generativa fue el segundo con un 66% de encuestados preocupados, apareciendo por primera vez entre los diez más destacados. Esto pone de manifiesto tanto el rápido crecimiento del conocimiento de este área de la Inteligencia Artificial con su variedad de casos de uso, y por tanto, de los riesgos que puede generar.

A la IA generativa le sigue la incertidumbre en la planificación financiera (62%), y la cuarta, el riesgo de concentración de la nube (62%). Las tensiones comerciales con China (56%) ocuparon en la encuesta el quinto lugar, lo que hace que los primeros cinco puestos de la lista reflejen tanto las preocupaciones relacionadas con los avances de la tecnología como las que surgen por los problemas macroeconómicos y geopolíticos.

Gartner había identificado ya seis riesgos de la IA generativa, así como cuatro aspectos de la regulación de la Inteligencia Artificial de relevancia para las funciones de seguridad. Por otro lado, en lo que respecta a la gestión de riesgos empresariales, es necesario tener tres aspectos en cuenta, según los expertos de la consultora.

El primero de ellos es la propiedad intelectual, ya que es importante formar a los líderes de las empresas para que vean la necesidad de tomar precauciones y actuar con transparencia sobre el uso de las herramientas de IA, para que los riesgos relacionados con la propiedad intelectual se puedan mitigar de manera adecuada tanto en el suministro de información como en la obtención de resultados de las herramientas de IA generativa.

La privacidad de los datos es el segundo aspecto importante a tener en cuenta. Es posible que las herramientas de IA generativa compartan en muchos casos información con terceros. Entre ellos, con proveedores de sistemas o servicios. También es probable que lo hagan sin previo aviso. Esto, potencialmente, puede violar las leyes de privacidad en muchas jurisdicciones. Como consecuencia, se han puesto en marcha ya diversas normativas y leyes. Por ejemplo, en China y en la Unión Europea. Además, hay ya varias propuestas más de normativas relacionadas en Estados Unidos, Reino Unido, Canadá o la India.

Por último, es necesario tener en cuenta la ciberseguridad. Ya se han registrado ejemplos de código de malware y ransomware producido por IA generativa después de que se haya engañado a los sistemas para que los desarrolle. También se han dado ataques mediante inyección de prompt que pueden hacer que estas herramientas den información que no deberían ofrecer.