Advierten riesgo de extinción para la humanidad por IA

La inteligencia artificial (IA) supone un "riesgo de extinción" para la humanidad, según una carta abierta firmada por 350 ejecutivos, investigadores e ingenieros expertos en esta tecnología. El Centro para la Seguridad de la IA, una organización sin fines de lucro, publicó el enunciado de tan solo 22 palabras.

Destaca la necesidad de considerar la mitigación de este riesgo a nivel mundial, junto con otros peligros sociales como las pandemias y las guerras nucleares. Importantes ejecutivos de empresas líderes en inteligencia artificial, como Sam Altman, Demis Hassabis y Dario Amodei, respaldan esta declaración.

Además, reconocidos investigadores como Geoffrey Hinton y Yoshua Bengio también han firmado el enunciado. Hinton, quien recientemente dejó Google por sus preocupaciones sobre la IA, incluso afirma que esta tecnología podría llevar al fin de la civilización en cuestión de años.

Estas conclusiones se presentan en un momento de creciente inquietud en torno a la IA, un sector en rápido desarrollo y difícil de controlar.

Sam Altman, presidente ejecutivo de OpenAI, ha expresado previamente su preocupación por la regulación de la inteligencia artificial generativa. Durante una audiencia en el Senado estadounidense, Altman destacó el potencial de que la tecnología salga mal y advirtió sobre las consecuencias negativas que podrían derivarse.

OpenAI, la compañía detrás de ChatGPT, el programa de IA más popular y poderoso en su campo, está especialmente comprometida con la identificación y gestión de las posibles desventajas de la IA.

No es la primera vez que figuras destacadas del ámbito empresarial y tecnológico han expresado preocupación sobre el futuro de la IA. En marzo, más de mil intelectuales, investigadores y empresarios firmaron una carta abierta solicitando una pausa en el desarrollo de sistemas de IA más poderosos que GPT4, la última versión de ChatGPT.

Los firmantes advirtieron sobre el impacto potencial en el empleo y la propagación de la desinformación. Además, señalaron que los laboratorios de IA están compitiendo sin control para desarrollar y implementar mentes digitales cada vez más poderosas, lo que plantea desafíos impredecibles y difíciles de gestionar.

La voz de alarma también ha sido emitida por Geoffrey Hinton, investigador británico y una de las figuras clave en el campo de la IA.

Hinton dejó su trabajo en Google para poder advertir sobre los peligros que estas tecnologías presentan con mayor libertad. Hinton destaca que, aunque la IA todavía está lejos de superar la inteligencia humana, plantea importantes preguntas éticas.

Mientras los cerebros humanos tienen metas integradas a través de la evolución, las inteligencias sintéticas, construidas por humanos, no tienen necesariamente objetivos innatos. Esto plantea la pregunta crucial de si podemos asegurarnos de que las metas de la IA beneficien a la humanidad.

En resumen, la comunidad de expertos en inteligencia artificial advierte sobre el riesgo de extinción que representa esta tecnología.

Se destaca la necesidad de abordar este riesgo a nivel mundial, junto con otros desafíos sociales importantes. Los líderes de la industria y los investigadores están expresando su preocupación sobre el desarrollo no controlado y los posibles impactos negativos de la IA.

Estas advertencias resaltan la importancia de una regulación efectiva y una gestión cuidadosa de las ventajas y desventajas de la inteligencia artificial para garantizar un futuro seguro y beneficioso para la humanidad.