¿Nos extinguirá la IA?
La sola idea de que el fin de la humanidad podría ser causado por robots inteligentes ha estado siempre en el terreno de la ciencia ficción… pero no a todos les parece una fantasía.
Jacob Coxon, un reconocido investigador británico de inteligencia artificial, renunció a su puesto en Anthropic, uno de los principales desarrolladores de IA, mientras exponía varias inquietudes éticas.
Según este científico, las empresas de inteligencia artificial están compitiendo para desarrollar “tecnologías sobrehumanas” que podrían poner en riesgo a los seres humanos.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, dijo Coxon en el texto que compartió a través de X.
Su mensajes, que sumó millones de vistas en pocas horas, ha reavivado el debate sobre la seguridad cibernética y los controles sobre la IA.
Horas después, el director de la empresa de inteligencia artificial Anthropic, Dario Amodei, ha pedido que se ralentice el ritmo de desarrollo de los modelos de inteligencia artificial y que se realice un seguimiento exhaustivo.
En un ensayo recientemente publicado, Amodei afirmó que el desarrollo de la IA no estaba en duda, pero que los riesgos asociados a ella son “graves” y es necesario dar tiempo a las empresas y a los gobiernos para abordarlos.
Los directivos de dos empresas rivales de inteligencia artificial, Sam Altman de OpenAI y Elon Musk, se han declarado de acuerdo con Amodei.
Últimamente ha habido creciente preocupación por los riesgos potenciales de esta tecnología. Un investigador de IA que dejó Anthropic esta semana declaró a la BBC: “si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato”.
Jacob Coxon le dijo a Laura Kuenssberg que las personas que trabajan en empresas de IA estaban “genuinamente asustadas… genuinamente preocupadas por el destino de la humanidad en los próximos dos años”.
“No es ninguna exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana”, dijo Coxon.
“Muchos de los que están inmersos en el desarrollo de la programación creen que hay una probabilidad superior al diez por ciento, o incluso mayor. Algunos dan cifras menores, pero todos manejan diferentes porcentajes de probabilidad de que los humanos puedan morir. Y todos tienen esto presente a diario mientras trabajan en la tecnología.”
En su ensayo, titulado “Debemos marcar el ritmo de la frontera” y publicado el sábado, Amodei propuso un plan de tres puntos que incluye la supervisión independiente de los modelos de IA a medida que se desarrollan, la regulación de toda la industria y la regulación global.
